jiant

MISE À JOUR : Depuis 2021/10/17, le projet jiant n'est plus activement entretenu. Cela signifie qu'il ne sera pas prévu d'ajouter de nouveaux modèles, tâches ou fonctionnalités, ou mettre à jour le support aux nouvelles bibliothèques.

jiant est une boîte à outils NLP

La boîte à outils d'apprentissage multitâche et transfert pour la recherche de traitement du langage naturel

Pourquoi devrais-je utiliser jiant ?

• jiant prend en charge l'apprentissage multitâche
• jiant prend en charge l'apprentissage du transfert
• jiant soutient plus de 50 tâches de compréhension du langage naturel
• jiant prend en charge les repères suivants:
  • COLLE
  • Superglue
  • Xtreme
• jiant est une bibliothèque de recherche et les utilisateurs sont encouragés à étendre, changer et contribuer à répondre à leurs besoins!

Quelques choses supplémentaires que vous voudrez peut-être savoir sur jiant :

• jiant est piloté au fichier de configuration
• jiant est construit avec Pytorch
• jiant s'intègre aux datasets pour gérer les données de tâche
• jiant s'intègre aux transformers pour gérer les modèles et les tokeniseurs.

Commencer

• Commencez avec quelques exemples simples
• En savoir plus sur jiant en lisant nos guides
• Voir notre liste des tâches prises en charge

Installation

Pour importer jiant de Source (recommandé pour les chercheurs):

git clone https://github.com/nyu-mll/jiant.git
cd jiant
pip install -r requirements.txt

# Add the following to your .bash_rc or .bash_profile 
export PYTHONPATH=/path/to/jiant: $PYTHONPATH

Si vous prévoyez de contribuer à Jiant, installez des dépendances supplémentaires avec pip install -r requirements-dev.txt .

Pour installer jiant à partir de Source (alternative pour les chercheurs):

 git clone https://github.com/nyu-mll/jiant.git
cd jiant
pip install . -e

Pour installer jiant de PIP (recommandé si vous souhaitez simplement former / utiliser un modèle):

 pip install jiant

Nous avons recommandé d'installer jiant dans un environnement virtuel ou un environnement Conda.

Pour vérifier jiant a été correctement installé, exécutez un exemple simple.

Introduction rapide

L'exemple suivant affine un modèle Roberta sur l'ensemble de données MRPC.

Version Python:

 from jiant . proj . simple import runscript as run
import jiant . scripts . download_data . runscript as downloader

EXP_DIR = "/path/to/exp"

# Download the Data
downloader . download_data ([ "mrpc" ], f" { EXP_DIR } /tasks" )

# Set up the arguments for the Simple API
args = run . RunConfiguration (
   run_name = "simple" ,
   exp_dir = EXP_DIR ,
   data_dir = f" { EXP_DIR } /tasks" ,
   hf_pretrained_model_name_or_path = "roberta-base" ,
   tasks = "mrpc" ,
   train_batch_size = 16 ,
   num_train_epochs = 3
)

# Run!
run . run_simple ( args )

Version de bash:

EXP_DIR=/path/to/exp

python jiant/scripts/download_data/runscript.py 
    download 
    --tasks mrpc 
    --output_path ${EXP_DIR} /tasks
python jiant/proj/simple/runscript.py 
    run 
    --run_name simple 
    --exp_dir ${EXP_DIR} / 
    --data_dir ${EXP_DIR} /tasks 
    --hf_pretrained_model_name_or_path roberta-base 
    --tasks mrpc 
    --train_batch_size 16 
    --num_train_epochs 3

Des exemples de flux de travail de formation plus complexes se trouvent ici.

Contributif

Les directives de contribution du projet jiant peuvent être trouvées ici.

Vous cherchez jiant v1.3.2 ?

jiant v1.3.2 a été transféré à la légie Jiant-V1 pour soutenir les recherches en cours avec la bibliothèque. jiant v2.xx est plus modulaire et évolutif que jiant v1.3.2 et a été conçu pour refléter les besoins de la communauté de recherche NLP actuelle. Nous avons fortement recommandé que les nouveaux projets utilisent jiant v2.xx

jiant 1.x a été utilisé dans plusieurs articles. Pour des instructions sur la façon de reproduire des articles d'auteurs jiant qui renvoient les lecteurs à ce site pour la documentation (y compris Tenney et al., Wang et al., Bowman et al., Kim et al., Warstadt et al.)

Citation

Si vous utilisez jiant ≥ v2.0.0 dans le travail académique, veuillez le citer directement:

 @misc{phang2020jiant,
    author = {Jason Phang and Phil Yeres and Jesse Swanson and Haokun Liu and Ian F. Tenney and Phu Mon Htut and Clara Vania and Alex Wang and Samuel R. Bowman},
    title = {texttt{jiant} 2.0: A software toolkit for research on general-purpose text understanding models},
    howpublished = {url{http://jiant.info/}},
    year = {2020}
}

Si vous utilisez jiant ≤ v1.3.2 Dans le travail académique, veuillez utiliser la citation trouvée ici.

Remerciements

• Ce travail a été rendu possible en partie par un don à NYU d'Eric et Wendy Schmidt réalisés par recommandation du programme Schmidt Futures, et par le soutien d'Intuit Inc.
• Nous remercions le soutien de Nvidia Corporation avec le don d'un Titan V GPU utilisé à NYU dans ce travail.
• Le développeur Jesse Swanson est soutenu par l'environnement de science des données de Moore-Sloan dans le cadre de la NYU Data Science Services Initiative.

Licence

jiant est libéré sous la licence du MIT.