mindnlp

Mindnlp

目录

• Mindnlp
  • 目录
  • 消息 ？
  • 安装
    • 从PYPI安装
    • 每日构建
    • 从源安装
    • 版本兼容性
  • 介绍
    • 主要功能
  • 支持的模型
  • 执照
  • 反馈和联系
  • Mindspore NLP Sig
  • 致谢
  • 引用

消息 ？

• 最新功能

  • ？ 250多个预估计的模型支持类似Huggingface Transfersers的API 。您可以通过以下代码段来轻松使用它们：

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • 完整的平台支持：对Ascend 910 series全面支持， Ascend 310B (Orange Pi) ， GPU和CPU 。 （注意：目前是Orange Pi上唯一可用的AI开发套件。）
  • 分布式并行推理：对超过10b参数的模型的多设备，多进程并行推理支持。
  • 量化算法支持：可用于橙色PI的平滑量； GPU支持的类似BITSBYTES的INT8量化。
  • 句子变压器的支持：启用有效的抹布（检索仪）的开发。
  • 动态图表性能优化：实现pytorch+gpu级推理速度，用于上升硬件上的动态图（以85ms/令牌测试的Llama性能）。
  • 真正的静态和动态图统一：使用mindspore.jit切换到图形模式，与拥抱面部代码样式完全兼容，以易于使用和快速的性能提高。测试的升天硬件的Llama性能达到2倍动态图速度（ 45ms/soken ），与其他Mindspore静态图形套件一致。
  • 广泛的LLM应用程序更新：包括Text information extraction ， Chatbots ， Speech recognition ， ChatPDF ， Music generation ， Code generation ， Voice clone等。随着模型支持的增加，更令人兴奋的应用程序正在等待开发！

安装

从PYPI安装

您可以安装上传到PYPI的MindNLP的官方版本。

pip install mindnlp

每日构建

您可以从这里下载MindNLP每日轮。

从源安装

要从源安装MindNLP，请运行：

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

版本兼容性

MindNLP版本	Mindspore版本	支持的Python版本
掌握	每日构建	> = 3.7.5，<= 3.9
0.1.1	> = 1.8.1，<= 2.0.0	> = 3.7.5，<= 3.9
0.2.x	> = 2.1.0	> = 3.8，<= 3.9
0.3.x	> = 2.1.0，<= 2.3.1	> = 3.8，<= 3.9
0.4.x	> = 2.2.x	> = 3.9，<= 3.11

介绍

MindNLP是基于Mindspore的开源NLP库。它支持一个平台来解决自然语言处理任务，其中包含NLP中许多常见方法。它可以帮助研究人员和开发人员更方便，迅速地构建和培训模型。

主分支与Mindspore Master合作。

主要功能

• 全面的数据处理：将几个经典的NLP数据集包装到友好的模块中，以便于使用，例如Multiy30k，Squad，Conll等。
• 友好的NLP模型工具集：MindNLP提供各种可配置的组件。使用MindNLP自定义模型很友好。
• 易于使用的引擎：MindNLP简化了复杂的训练过程。它支持培训师和评估器界面，以轻松培训和评估模型。

支持的模型

由于支持的模型太多，请在此处检查

执照

该项目以Apache 2.0许可发布。

反馈和联系

动态版本仍在开发中，如果您发现任何问题或对新功能有任何想法，请随时通过GitHub问题与我们联系。

Mindspore NLP Sig

Mindspore NLP Sig（自然语言处理特殊兴趣小组）是MindNLP框架的主要开发团队。它旨在与对研究，应用程序开发以及自然语言处理的实际实施感兴趣的工业和学术界的开发人员合作。我们的目标是基于国内框架的思维索创建最佳的NLP框架。此外，我们定期举办NLP技术共享和离线活动。有兴趣的开发人员可以使用下面的QR码加入我们的SIG组。

致谢

Mindspore是一个开源项目，欢迎任何贡献和反馈。
我们希望工具箱和基准可以为不断增长的研究服务
通过提供灵活的和标准化的工具包来重新实现现有方法，社区
并开发自己的新语义细分方法。

引用

如果您发现此项目在您的研究中有用，请考虑引用：

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}