mindnlp

Mindnlp

Inhaltsverzeichnis

• Mindnlp
  • Inhaltsverzeichnis
  • Nachricht ?
  • Installation
    • Installieren Sie von PYPI
    • Täglicher Bau
    • Aus der Quelle installieren
    • Versionskompatibilität
  • Einführung
    • Hauptmerkmale
  • Unterstützte Modelle
  • Lizenz
  • Feedbacks und Kontakt
  • Mindspore NLP Sig
  • Anerkennung
  • Zitat

Nachricht ?

• Neueste Funktionen

  • ? Über 250 vorbereitete Modelle unterstützt die apis mit schwenkungsgesichts-transformatoren . Sie können sie einfach verwenden, indem Sie Code -Snippet folgen:

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • Vollständige Plattformunterstützung : umfassende Unterstützung für Ascend 910 series , Ascend 310B (Orange Pi) , GPU und CPU . (Hinweis: Derzeit das einzige KI -Entwicklungskit, das auf Orange Pi erhältlich ist.)
  • Verteilte parallele Inferenz : Mehrfach-Gerät, Mehrprozess-Parallelinferenzunterstützung für Modelle über 10B-Parameter.
  • Unterstützung des Quantisierungsalgorithmus : Smoothquant für orange PI verfügbar; Bitsandbytes-ähnliche INT8-Quantisierung unterstützt bei GPU.
  • Satztransformatorunterstützung : Ermöglicht eine effiziente Entwicklung von Lappen (retrieval-generale Generation).
  • Dynamische Diagrammleistungoptimierung : Erreicht Pytorch+GPU-Ebene Inferenzgeschwindigkeiten für dynamische Graphen auf Ascend-Hardware (getestete Lama-Leistung bei 85 ms/Token ).
  • True statische und dynamische Diagramm-Vereinigung : Ein-Line-Umschaltung in den Grafikmodus mit mindspore.jit , vollständig kompatibel mit dem Umarmungs-Gesichtscode-Stil, um sowohl die Verwendung als auch eine schnelle Leistungsverbesserung zu erreichen. Die getestete Lama-Leistung auf Ascend-Hardware erreicht 2x dynamische Graphengeschwindigkeit ( 45 ms/Token ), was mit anderen statischen Graph-Suiten in MindSpore übereinstimmt.
  • Umfangreiche LLM -Anwendungsaktualisierungen : Beinhaltet Text information extraction , Chatbots , Speech recognition , ChatPDF , Music generation , Code generation , Voice clone usw. mit erhöhter Modellunterstützung, noch aufregende Anwendungen warten auf die Entwicklung!

Installation

Installieren Sie von PYPI

Sie können die offizielle Version von MindNLP installieren, die auf PYPI hochgeladen wird.

pip install mindnlp

Täglicher Bau

Sie können Mindnlp Daily Wheel von hier herunterladen.

Aus der Quelle installieren

Um Mindnlp aus der Quelle zu installieren, führen Sie bitte aus:

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

Versionskompatibilität

Mindnlp -Version	MindSpore -Version	Unterstützte Python -Version
Master	täglicher Bau	> = 3,7,5, <= 3,9
0,1.1	> = 1,8.1, <= 2.0.0	> = 3,7,5, <= 3,9
0.2.x	> = 2.1.0	> = 3,8, <= 3,9
0.3.x	> = 2.1.0, <= 2.3.1	> = 3,8, <= 3,9
0.4.x	> = 2.2.x	> = 3,9, <= 3.11

Einführung

Mindnlp ist eine Open -Source -NLP -Bibliothek, die auf MindSpore basiert. Es unterstützt eine Plattform zur Lösung natürlicher Sprachverarbeitungsaufgaben, die viele häufige Ansätze in NLP enthalten. Es kann Forschern und Entwicklern helfen, Modelle bequemer und schneller zu konstruieren und zu trainieren.

Der Master -Zweig arbeitet mit Mindspore Master zusammen.

Hauptmerkmale

• Umfassende Datenverarbeitung : Mehrere klassische NLP -Datensätze werden für eine einfache Verwendung in ein freundliches Modul verpackt, z. B. Multi30K, Trupp, Conll usw.
• Friendly NLP Model Toolset : MindNLP bietet verschiedene konfigurierbare Komponenten. Es ist freundlich, Modelle mit Mindnlp anzupassen.
• Einfach zu bedienende Engine : Mindnlp vereinfacht den komplizierten Trainingsprozess in MindSpore. Es unterstützt Trainer- und Evaluator -Schnittstellen, um Modelle leicht zu trainieren und zu bewerten.

Unterstützte Modelle

Da es zu viele unterstützte Modelle gibt, lesen Sie bitte hier

Lizenz

Dieses Projekt wird unter der Apache 2.0 -Lizenz veröffentlicht.

Feedbacks und Kontakt

Die dynamische Version befindet sich noch in der Entwicklung. Wenn Sie ein Problem finden oder eine Idee zu neuen Funktionen haben, zögern Sie bitte nicht, uns über Github -Probleme zu kontaktieren.

Mindspore NLP Sig

MindSpore NLP SIG (Natural Language Processing Special Interest Group) ist das Hauptentwicklungsteam des Mindnlp -Frameworks. Ziel ist es, mit Entwicklern aus Industrie und Wissenschaft zusammenzuarbeiten, die sich für Forschung, Anwendungsentwicklung und die praktische Umsetzung der Verarbeitung natürlicher Sprache interessieren. Unser Ziel ist es, das beste NLP -Framework zu schaffen, das auf dem inländischen Framework Mindspore basiert. Darüber hinaus führen wir regelmäßig NLP -Technologien -Sharing -Sitzungen und Offline -Veranstaltungen ab. Interessierte Entwickler können sich unserer SIG -Gruppe mit dem folgenden QR -Code anschließen.

Anerkennung

MindSpore ist ein Open -Source -Projekt, das jeden Beitrag und Feedback begrüßt.
Wir wünschen, dass die Toolbox und der Benchmark die wachsende Forschung dienen könnten
Community durch Bereitstellung eines flexiblen und standardisierten Toolkits, um vorhandene Methoden erneut zu implementieren
und entwickeln Sie ihre eigenen neuen semantischen Segmentierungsmethoden.

Zitat

Wenn Sie dieses Projekt in Ihrer Forschung nützlich finden, sollten Sie sich angeben:

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}