NeuronBlocks下载 - NeuronBlocks源代码下载

NeuronBlocks

Python

1.0.0

下载

构建您的NLP DNN模型，例如玩乐高

简体中文

教程中文教程演示视频

概述

Neuronblocks是NLP深度学习建模工具包，可帮助工程师/研究人员构建用于NLP任务的神经网络模型培训的端到端管道。该工具包的主要目标是最大程度地减少NLP深神经网络模型建立成本的开发成本，包括培训和推理阶段。

Neuronblocks由两个主要组成部分组成：块动物园和模型动物园。

在Block动物园中，我们提供常用的神经网络组件作为模型架构设计的构件。
在模型动物园中，我们以JSON配置文件的形式为通用NLP任务提供了一套NLP模型。

支持语言

英语
中国人

支持NLP任务

句子分类
情感分析
问题回答匹配
文字需要
插槽标记
机器阅读理解
模型压缩的知识蒸馏
正在进行更多

工具包使用

用户可以在模型动物园中选择现有的模型（配置文件）来启动模型培训，也可以通过利用块动物园中的神经网络块来创建新型号，就像玩乐一样。

在60秒内开始

安装

注意：Neuronblocks需要Python 3.6及以上。

克隆这个项目。

git clone https://github.com/Microsoft/NeuronBlocks

通过以下命令将python软件包安装在需求.txt中。
```
pip install -r requirements.txt
```
安装Pytorch（神经块支持Pytorch 0.4.1及以上）。
对于Linux ，运行以下命令：
```
pip install " torch>=0.4.1 "
```
对于Windows ，我们建议您按照Pytorch的说明来通过Conda安装Pytorch。

快速开始

尝试通过尝试给定的示例开始。支持Linux/Windows，GPU/CPU 。对于Windows ，我们建议您使用PowerShell代替CMD。

提示：在以下指令中，ProjectRoot表示该项目的根目录。

 # train
cd PROJECT_ROOT
python train.py --conf_path=model_zoo/demo/conf.json

# test
python test.py --conf_path=model_zoo/demo/conf.json

# predict
python predict.py --conf_path=model_zoo/demo/conf.json

为了预测，神经块具有两种模式：互动和批处理。

交互式预测模式：交互式模式提供交互式接口，用户可以根据相应的提示消息输入案例，并从训练有素的模型中获得实时预测结果，并输入“退出”到退出交互式接口。

 # use the above example
# interactive prediction
python predict.py --conf_path=model_zoo/demo/conf.json --predict_mode= ' interactive '

批处理预测模式：对于批处理案例预测，神经块提供批处理预测模式，该模式接收案例文件作为输入并在预测文件中写入预测结果。

 # use the above example
# batch prediction
python predict.py --conf_path=model_zoo/demo/conf.json --predict_mode= ' batch ' --predict_data_path=dataset/demo/predict.tsv

有关更多详细信息，请参阅tutorial.md和代码文档。

谁应该考虑使用神经块

在使用神经网络模型来解决NLP问题时面临以下挑战的工程师或研究人员：

许多要选择的框架和高框架研究成本。
沉重的编码成本。许多细节使很难调试。
快速模型体系结构的演变。工程师很难理解其背后的数学原理。
模型代码优化需要深厚的专业知识。
模型平台兼容性要求。它需要额外的编码工作才能在不同平台上运行，例如Linux/Windows，GPU/CPU。

利用神经块进行NLP神经网络模型培训的优势包括：

模型构建：对于模型构建和参数调整，用户只需要编写简单的JSON配置文件，这大大最大程度地减少了实施新想法的努力。
模型共享仅通过JSON文件而不是讨厌的代码共享模型非常容易。对于不同的模型或任务，我们的用户只需要维护一个单一的集中式源代码库即可。
代码可重复性：可以在各种模型或任务上轻松共享常见块，从而减少重复的编码工作。
平台灵活性：使用CPU和GPU，神经块可以在Linux和Windows机器上同时运行。它还支持Philly和Pai等GPU平台上的培训。
CPU推断单GPU推理多GPU推断
CPU火车 ✓ ✓ ✓
单GPU火车 ✓ ✓ ✓
多GPU火车 ✓ ✓ ✓
模型可视化：为可视化和配置正确性检查提供了模型可视化器，该检查可帮助用户在调试过程中轻松可视化模型体系结构。
可扩展性：神经块是可扩展的，使用户可以贡献新的块或贡献新型模型（JSON文件）。

贡献

神经块以开放模型运行。它是由Microsoft的STCA NLP组设计和开发的。学术界和行业的贡献也非常欢迎。有关更多详细信息，请参阅贡献。md。

正在进行的工作并呼吁捐款

强烈鼓励任何熟悉的人贡献代码。

模型压缩的知识蒸馏。诸如Bert，OpenAI变压器等重型模型的知识蒸馏。基于教师的知识蒸馏是模型压缩的一种常见方法。
多语言支持
NER模型支持
多任务培训支持

参考

Neuronblocks-构建您的NLP DNN模型，例如玩乐高。 EMNLP 2019 ，https://arxiv.org/abs/1904.09535。

 @article{gong2019neuronblocks,
  title={NeuronBlocks--Building Your NLP DNN Models Like Playing Lego},
  author={Gong, Ming and Shou, Linjun and Lin, Wutao and Sang, Zhijie and Yan, Quanjia and Yang, Ze, Cheng, Feixiang and Jiang, Daxin},
  journal={arXiv preprint arXiv:1904.09535},
  year={2019}
}