mindnlp

Mindnlp

目次

• Mindnlp
  • 目次
  • ニュース ？
  • インストール
    • Pypiからインストールします
    • 毎日のビルド
    • ソースからインストールします
    • バージョンの互換性
  • 導入
    • 主な機能
  • サポートされているモデル
  • ライセンス
  • フィードバックと連絡先
  • MindSpore NLP SIG
  • 了承
  • 引用

ニュース ？

• 最新の機能

  • ？ 250以上の前提条件モデルは、ハギングフェイストランスのようなAPIをサポートしています。コードスニペットをフォローすることで、簡単に使用できます。

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • 完全なプラットフォームサポート： Ascend 910 seriesの包括的なサポート、 Ascend 310B (Orange Pi) 、 GPU 、およびCPU 。 （注：現在、オレンジPIで利用可能な唯一のAI開発キット。）
  • 分散並列推論：10Bパラメーターを超えるモデルのマルチデバイス、マルチプロセス並列推論サポート。
  • 量子化アルゴリズムサポート：オレンジPIで利用可能なSmoothQuant; GPUでサポートされているBitsandBytesのようなInt8量子化。
  • 文の変圧器のサポート：効率的なRAG（検索された生成）開発を有効にします。
  • 動的グラフのパフォーマンスの最適化：Ascend Hardware（ 85ms/Tokenでテスト済みのLlamaパフォーマンス）の動的グラフのPytorch+GPUレベルの推論速度を達成します。
  • 真の静的および動的グラフ統合： mindspore.jitを使用した1ラインのグラフモードへの切り替え、使いやすさと迅速なパフォーマンスの改善の両方のために、抱き合ったフェイスコードスタイルと完全に互換性があります。 Ascend HardwareでテストされたLlamaパフォーマンスは、他のMindSpore静的グラフベースのスイートと一致して、2倍の動的グラフ速度（ 45ms/トークン）に達します。
  • 広範なLLMアプリケーションの更新： Text information extraction 、 Chatbots 、 Speech recognition 、 ChatPDF 、 Music generation 、 Code generation 、 Voice cloneなどが含まれます。モデルサポートの増加により、さらにエキサイティングなアプリケーションが開発を待ちます！

インストール

Pypiからインストールします

PypiにアップロードされたMindnlpの公式バージョンをインストールできます。

pip install mindnlp

毎日のビルド

Mindnlp Daily Wheelをここからダウンロードできます。

ソースからインストールします

SourceからMindnlpをインストールするには、実行してください。

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

バージョンの互換性

Mindnlpバージョン	MindSporeバージョン	サポートされているPythonバージョン
マスター	毎日のビルド	> = 3.7.5、<= 3.9
0.1.1	> = 1.8.1、<= 2.0.0	> = 3.7.5、<= 3.9
0.2.x	> = 2.1.0	> = 3.8、<= 3.9
0.3.x	> = 2.1.0、<= 2.3.1	> = 3.8、<= 3.9
0.4.x	> = 2.2.x	> = 3.9、<= 3.11

導入

MindNLPは、MindSporeに基づいたオープンソースNLPライブラリです。 NLPの多くの一般的なアプローチを含む自然言語処理タスクを解決するためのプラットフォームをサポートしています。研究者と開発者がモデルをより便利かつ迅速に構築および訓練するのに役立ちます。

マスターブランチは、 MindSpore Masterと動作します。

主な機能

• 包括的なデータ処理：いくつかの古典的なNLPデータセットは、Multi30K、Squad、Conllなど、簡単に使用できるフレンドリーモジュールにパッケージ化されています。
• フレンドリーなNLPモデルツールセット：MindNLPは、さまざまな構成可能なコンポーネントを提供します。 Mindnlpを使用してモデルをカスタマイズするのはフレンドリーです。
• 使いやすいエンジン：MindNLPは、MINDSPOREで複雑なトレーニングプロセスを簡素化しました。トレーナーと評価者のインターフェイスをサポートして、モデルを簡単にトレーニングおよび評価します。

サポートされているモデル

サポートされているモデルが多すぎるため、こちらをご覧ください

ライセンス

このプロジェクトは、Apache 2.0ライセンスの下でリリースされます。

フィードバックと連絡先

動的バージョンはまだ開発中です。問題が見つかった場合、または新機能についてアイデアを持っている場合は、GitHubの問題を介してお気軽にお問い合わせください。

MindSpore NLP SIG

MindSpore NLP SIG（Natural Language Processing Special Interest Group）は、MindNLPフレームワークの主要な開発チームです。これは、研究、アプリケーション開発、および自然言語処理の実際の実施に関心のある業界と学界の両方の開発者と協力することを目的としています。私たちの目標は、国内のフレームワークのマインドスポアに基づいて、最高のNLPフレームワークを作成することです。さらに、NLPテクノロジー共有セッションとオフラインイベントを定期的に開催しています。興味のある開発者は、以下のQRコードを使用してSIGグループに参加できます。

了承

MindSporeは、あらゆる貢献とフィードバックを歓迎するオープンソースプロジェクトです。
ツールボックスとベンチマークが成長する研究に役立つことを願っています
既存の方法を再実装するための柔軟なおよび標準化されたツールキットを提供することによるコミュニティ
独自の新しいセマンティックセグメンテーション方法を開発します。

引用

このプロジェクトがあなたの研究で役立つと思う場合は、引用を検討してください。

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}