jiant

UPDATE : Ab 2021/10/17 wird das jiant -Projekt nicht mehr aktiv gepflegt. Dies bedeutet, dass es keine Pläne gibt, neue Modelle, Aufgaben oder Funktionen hinzuzufügen oder neue Bibliotheken Support zu aktualisieren.

jiant ist ein NLP -Toolkit

Das Multitasking- und Transfer -Lern -Toolkit für die Forschung für natürliche Sprachverarbeitung

Warum sollte ich jiant benutzen?

• jiant unterstützt Multitasking -Lernen
• jiant unterstützt Transferlernen
• jiant unterstützt 50+ natürliche Sprachverständnisaufgaben
• jiant unterstützt die folgenden Benchmarks:
  • KLEBER
  • Superklebe
  • Xtreme
• jiant ist eine Forschungsbibliothek und Benutzer werden ermutigt, sich zu erweitern, zu verändern und beizutragen, um ihren Bedürfnissen zu entsprechen!

Ein paar zusätzliche Dinge, die Sie vielleicht über jiant wissen möchten:

• jiant ist Konfigurationsdatei angetrieben
• jiant ist mit Pytorch gebaut
• jiant integriert sich in datasets , um Aufgabendaten zu verwalten
• jiant integriert sich in transformers , um Modelle und Tokenizer zu verwalten.

Erste Schritte

• Beginnen Sie mit einigen einfachen Beispielen
• Erfahren Sie mehr über jiant , indem Sie unsere Führer lesen
• Sehen Sie sich unsere Liste der unterstützten Aufgaben an

Installation

jiant aus Quelle zu importieren (für Forscher empfohlen):

git clone https://github.com/nyu-mll/jiant.git
cd jiant
pip install -r requirements.txt

# Add the following to your .bash_rc or .bash_profile 
export PYTHONPATH=/path/to/jiant: $PYTHONPATH

Wenn Sie vorhaben, zum Jiant beizutragen, installieren Sie zusätzliche Abhängigkeiten mit pip install -r requirements-dev.txt .

So installieren Sie jiant von Quelle (Alternative für Forscher):

 git clone https://github.com/nyu-mll/jiant.git
cd jiant
pip install . -e

So installieren Sie jiant von PIP (empfohlen, wenn Sie nur ein Modell trainieren/verwenden möchten):

 pip install jiant

Wir haben empfohlen, jiant in einer virtuellen Umgebung oder einer Conda -Umgebung zu installieren.

Um jiant korrekt installiert zu überprüfen, führen Sie ein einfaches Beispiel aus.

Schnelle Einführung

Das folgende Beispiel fein einteilen ein Roberta-Modell im MRPC-Datensatz.

Python -Version:

 from jiant . proj . simple import runscript as run
import jiant . scripts . download_data . runscript as downloader

EXP_DIR = "/path/to/exp"

# Download the Data
downloader . download_data ([ "mrpc" ], f" { EXP_DIR } /tasks" )

# Set up the arguments for the Simple API
args = run . RunConfiguration (
   run_name = "simple" ,
   exp_dir = EXP_DIR ,
   data_dir = f" { EXP_DIR } /tasks" ,
   hf_pretrained_model_name_or_path = "roberta-base" ,
   tasks = "mrpc" ,
   train_batch_size = 16 ,
   num_train_epochs = 3
)

# Run!
run . run_simple ( args )

Bash -Version:

EXP_DIR=/path/to/exp

python jiant/scripts/download_data/runscript.py 
    download 
    --tasks mrpc 
    --output_path ${EXP_DIR} /tasks
python jiant/proj/simple/runscript.py 
    run 
    --run_name simple 
    --exp_dir ${EXP_DIR} / 
    --data_dir ${EXP_DIR} /tasks 
    --hf_pretrained_model_name_or_path roberta-base 
    --tasks mrpc 
    --train_batch_size 16 
    --num_train_epochs 3

Beispiele für komplexere Schulungsworkflows finden Sie hier.

Beitragen

Die beitragenden Richtlinien des jiant -Projekts finden Sie hier.

Auf der Suche nach jiant v1.3.2 ?

jiant v1.3.2 wurde in die Legacy von Jiant-V1 verlegt, um die laufende Forschung mit der Bibliothek zu unterstützen. jiant v2.xx ist modular und skalierbarer als jiant v1.3.2 und wurde entwickelt, um die Bedürfnisse der aktuellen NLP -Forschungsgemeinschaft widerzuspiegeln. Wir haben nachdrücklich empfohlen, dass neue Projekte jiant v2.xx verwenden.

jiant 1.x wurde in mehreren Papieren verwendet. Für Anweisungen zur Reproduktion von Papieren durch jiant , die die Leser an dieser Stelle zur Dokumentation verweisen (einschließlich Tenney et al., Wang et al., Bowman et al., Kim et al., Warstadt et al.), Finden Sie in der Jiant-V1-Legacy Readme.

Zitat

Wenn Sie jiant ≥ v2.0.0 in akademischen Arbeiten verwenden, zitieren Sie ihn bitte direkt:

 @misc{phang2020jiant,
    author = {Jason Phang and Phil Yeres and Jesse Swanson and Haokun Liu and Ian F. Tenney and Phu Mon Htut and Clara Vania and Alex Wang and Samuel R. Bowman},
    title = {texttt{jiant} 2.0: A software toolkit for research on general-purpose text understanding models},
    howpublished = {url{http://jiant.info/}},
    year = {2020}
}

Wenn Sie jiant ≤ v1.3.2 in akademischen Arbeiten verwenden, verwenden Sie bitte das hier gefundene Zitat.

Anerkennung

• Diese Arbeit wurde teilweise durch eine Spende von Eric und Wendy Schmidt an NYU ermöglicht, die durch Empfehlung des Schmidt Futures -Programms und durch Unterstützung von Inuit Inc.
• Wir danken für die Unterstützung der NVIDIA Corporation mit der Spende einer Titan -V -GPU, die bei dieser Arbeit bei NYU verwendet wird.
• Der Entwickler Jesse Swanson wird von der Moore-Sloan Data Science-Umgebung im Rahmen der Initiative NYU Data Science Services unterstützt.

Lizenz

jiant wird unter der MIT -Lizenz veröffentlicht.