mindnlp

Mindnlp

目錄

• Mindnlp
  • 目錄
  • 消息 ？
  • 安裝
    • 從PYPI安裝
    • 每日構建
    • 從源安裝
    • 版本兼容性
  • 介紹
    • 主要功能
  • 支持的模型
  • 執照
  • 反饋和聯繫
  • Mindspore NLP Sig
  • 致謝
  • 引用

消息 ？

• 最新功能

  • ？ 250多個預估計的模型支持類似Huggingface Transfersers的API 。您可以通過以下代碼段來輕鬆使用它們：

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • 完整的平台支持：對Ascend 910 series全面支持， Ascend 310B (Orange Pi) ， GPU和CPU 。 （注意：目前是Orange Pi上唯一可用的AI開發套件。）
  • 分佈式並行推理：對超過10b參數的模型的多設備，多進程並行推理支持。
  • 量化算法支持：可用於橙色PI的平滑量； GPU支持的類似BITSBYTES的INT8量化。
  • 句子變壓器的支持：啟用有效的抹布（檢索儀）的開發。
  • 動態圖表性能優化：實現pytorch+gpu級推理速度，用於上升硬件上的動態圖（以85ms/令牌測試的Llama性能）。
  • 真正的靜態和動態圖統一：使用mindspore.jit切換到圖形模式，與擁抱面部代碼樣式完全兼容，以易於使用和快速的性能提高。測試的升天硬件的Llama性能達到2倍動態圖速度（ 45ms/soken ），與其他Mindspore靜態圖形套件一致。
  • 廣泛的LLM應用程序更新：包括Text information extraction ， Chatbots ， Speech recognition ， ChatPDF ， Music generation ， Code generation ， Voice clone等。隨著模型支持的增加，更令人興奮的應用程序正在等待開發！

安裝

從PYPI安裝

您可以安裝上傳到PYPI的MindNLP的官方版本。

pip install mindnlp

每日構建

您可以從這裡下載MindNLP每日輪。

從源安裝

要從源安裝MindNLP，請運行：

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

版本兼容性

MindNLP版本	Mindspore版本	支持的Python版本
掌握	每日構建	> = 3.7.5，<= 3.9
0.1.1	> = 1.8.1，<= 2.0.0	> = 3.7.5，<= 3.9
0.2.x	> = 2.1.0	> = 3.8，<= 3.9
0.3.x	> = 2.1.0，<= 2.3.1	> = 3.8，<= 3.9
0.4.x	> = 2.2.x	> = 3.9，<= 3.11

介紹

MindNLP是基於Mindspore的開源NLP庫。它支持一個平台來解決自然語言處理任務，其中包含NLP中許多常見方法。它可以幫助研究人員和開發人員更方便，迅速地構建和培訓模型。

主分支與Mindspore Master合作。

主要功能

• 全面的數據處理：將幾個經典的NLP數據集包裝到友好的模塊中，以便於使用，例如Multiy30k，Squad，Conll等。
• 友好的NLP模型工具集：MindNLP提供各種可配置的組件。使用MindNLP自定義模型很友好。
• 易於使用的引擎：MindNLP簡化了複雜的訓練過程。它支持培訓師和評估器界面，以輕鬆培訓和評估模型。

支持的模型

由於支持的模型太多，請在此處檢查

執照

該項目以Apache 2.0許可發布。

反饋和聯繫

動態版本仍在開發中，如果您發現任何問題或對新功能有任何想法，請隨時通過GitHub問題與我們聯繫。

Mindspore NLP Sig

Mindspore NLP Sig（自然語言處理特殊興趣小組）是MindNLP框架的主要開發團隊。它旨在與對研究，應用程序開發以及自然語言處理的實際實施感興趣的工業和學術界的開發人員合作。我們的目標是基於國內框架的思維索創建最佳的NLP框架。此外，我們定期舉辦NLP技術共享和離線活動。有興趣的開發人員可以使用下面的QR碼加入我們的SIG組。

致謝

Mindspore是一個開源項目，歡迎任何貢獻和反饋。
我們希望工具箱和基準可以為不斷增長的研究服務
通過提供靈活的和標準化的工具包來重新實現現有方法，社區
並開發自己的新語義細分方法。

引用

如果您發現此項目在您的研究中有用，請考慮引用：

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}