mindnlp

Mindnlp

Table des matières

• Mindnlp
  • Table des matières
  • Nouvelles ?
  • Installation
    • Installer à partir de PYPI
    • Construction quotidienne
    • Installer à partir de la source
    • Compatibilité de la version
  • Introduction
    • Caractéristiques majeures
  • Modèles pris en charge
  • Licence
  • Rétroactions et contact
  • Mindspore NLP SIG
  • Reconnaissance
  • Citation

Nouvelles ?

• Dernières fonctionnalités

  • ? 250+ modèles pré-traçés prennent en charge les API de type transformateurs à étreindre . Vous pouvez les utiliser facilement en suivant l'extrait de code:

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • Support complet de la plate-forme : support complet de Ascend 910 series , Ascend 310B (Orange Pi) , GPU et CPU . (Remarque: actuellement le seul kit de développement AI disponible sur Orange Pi.)
  • Inférence parallèle distribuée : support d'inférence parallèle multi-dispositif multi-disques et multi-processus pour les modèles dépassant 10B paramètres.
  • Support de l'algorithme de quantification : Smoothand Disponible pour Orange Pi; BitsandBytes-Like INT8 Quantification prise en charge sur GPU.
  • Support du transformateur de phrase : permet le développement efficace de RAG (récupération-retenue).
  • Optimisation dynamique des performances des graphiques : réalise les vitesses d'inférence au niveau du GPU Pytorch + pour les graphiques dynamiques sur le matériel Ascend (performances de lama testées à 85 ms / jetons ).
  • True Statique et dynamique Unification Graphy : Pétrolecteur d'une ligne en mode graphique avec mindspore.jit , entièrement compatible avec un style de code de visage étreint pour la facilité d'utilisation et l'amélioration des performances rapides. Les performances de lama testées sur le matériel Ascend atteint la vitesse de graphique dynamique 2x ( 45 ms / jetons ), cohérente avec d'autres suites basées sur des graphiques statiques de Mindspore.
  • Mises à jour approfondies de l'application LLM : comprend Text information extraction , Chatbots , Speech recognition , ChatPDF , Music generation , Code generation , Voice clone , etc. Avec un support accru de modèles, des applications encore plus excitantes attendent le développement!

Installation

Installer à partir de PYPI

Vous pouvez installer la version officielle de MindNLP qui est téléchargée sur PYPI.

pip install mindnlp

Construction quotidienne

Vous pouvez télécharger MindnLP Daily Wheel à partir d'ici.

Installer à partir de la source

Pour installer Mindnlp à partir de la source, veuillez exécuter:

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

Compatibilité de la version

Version Mindnlp	Version MindSpore	Version Python prise en charge
maître	construction quotidienne	> = 3,7,5, <= 3,9
0.1.1	> = 1.8.1, <= 2.0.0	> = 3,7,5, <= 3,9
0.2.x	> = 2.1.0	> = 3,8, <= 3,9
0.3.x	> = 2.1.0, <= 2.3.1	> = 3,8, <= 3,9
0.4.x	> = 2.2.x	> = 3,9, <= 3.11

Introduction

MindNLP est une bibliothèque NLP open source basée sur Mindspore. Il prend en charge une plate-forme pour résoudre les tâches de traitement du langage naturel, contenant de nombreuses approches courantes dans la PNL. Il peut aider les chercheurs et les développeurs à construire et à former des modèles plus facilement et plus rapidement.

La branche Master travaille avec Mindspore Master .

Caractéristiques majeures

• Traitement complet des données : plusieurs ensembles de données NLP classiques sont emballés dans un module convivial pour une utilisation facile, tels que Multi30K, Squad, Conll, etc.
• Set outils de modèle NLP convivial : MindNLP fournit divers composants configurables. Il est convivial de personnaliser des modèles utilisant MindNLP.
• Moteur facile à utiliser : MindNLP a simplifié le processus de formation compliqué dans Mindspore. Il soutient les interfaces entraîneurs et évaluateurs pour former et évaluer facilement les modèles.

Modèles pris en charge

Puisqu'il y a trop de modèles pris en charge, veuillez vérifier ici

Licence

Ce projet est publié sous la licence Apache 2.0.

Rétroactions et contact

La version dynamique est toujours en cours de développement, si vous trouvez un problème ou si vous avez une idée sur de nouvelles fonctionnalités, n'hésitez pas à nous contacter via des problèmes GitHub.

Mindspore NLP SIG

Mindspore NLP SIG (Natural Language Processing Special Intérêt Group) est la principale équipe de développement du cadre MindnLP. Il vise à collaborer avec les développeurs de l'industrie et du monde universitaire qui s'intéressent à la recherche, au développement des applications et à la mise en œuvre pratique du traitement du langage naturel. Notre objectif est de créer le meilleur cadre NLP basé sur le framework domestique. De plus, nous organisons régulièrement des séances de partage de technologie NLP et des événements hors ligne. Les développeurs intéressés peuvent rejoindre notre groupe SIG en utilisant le code QR ci-dessous.

Reconnaissance

Mindspore est un projet open source qui accueille toute contribution et rétroaction.
Nous souhaitons que la boîte à outils et la référence puissent servir la recherche croissante
Communauté en fournissant une boîte à outils flexible et standardisée pour réimplémenter les méthodes existantes
et développer leurs propres nouvelles méthodes de segmentation sémantique.

Citation

Si vous trouvez ce projet utile dans vos recherches, veuillez envisager de citer:

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}