Un système de visualisation interactif conçu pour aider les chercheurs et les praticiens de la PNL à analyser et à comparer les poids d'attention dans les modèles basés sur les transformateurs avec des connaissances linguistiques.
Pour plus d'informations, consultez notre manuscrit:
DODRIO: Exploration des modèles de transformateurs avec visualisation interactive . Zijie J. Wang, Robert Turko et Duen Horng Chau. ARXIV Préprint 2021. Arxiv: 2103.14625.
Pour une démo en direct, visitez: http://poloclub.github.io/dodrio/
Cloner ou télécharger ce référentiel:
git clone [email protected]:poloclub/dodrio.git
# use degit if you don't want to download commit histories
degit poloclub/dodrioInstallez les dépendances:
npm installEnsuite, exécutez Dodrio:
npm run devAccédez à LocalHost: 5000. Vous devriez voir Dodrio courir dans votre broswer :)
Pour voir comment nous avons formé le transformateur ou personnaliser la visualisation avec un modèle ou un ensemble de données différent, visitez le répertoire ./data-generation/ .
Dodrio a été créé par Jay Wang, Robert Turko et Polo Chau.
@inproceedings { wangDodrioExploringTransformer2021 ,
title = { Dodrio: {{Exploring Transformer Models}} with {{Interactive Visualization}} } ,
shorttitle = { Dodrio } ,
booktitle = { Proceedings of the 59th {{Annual Meeting}} of the {{Association}} for {{Computational Linguistics}} and the 11th {{International Joint Conference}} on {{Natural Language Processing}}: {{System Demonstrations}} } ,
author = { Wang, Zijie J. and Turko, Robert and Chau, Duen Horng } ,
year = { 2021 } ,
pages = { 132--141 } ,
publisher = { {Association for Computational Linguistics} } ,
address = { {Online} } ,
language = { en }
}Le logiciel est disponible sous la licence MIT.
Si vous avez des questions, n'hésitez pas à ouvrir un problème ou à contacter Jay Wang.