mindnlp

MINDNLP

Índice

• MINDNLP
  • Índice
  • Notícias ?
  • Instalação
    • Instale a partir de Pypi
    • Construção diária
    • Instale da fonte
    • Compatibilidade da versão
  • Introdução
    • Principais características
  • Modelos suportados
  • Licença
  • Feedbacks e contato
  • MindSpore NLP Sig
  • Reconhecimento
  • Citação

Notícias ?

• Recursos mais recentes

  • ? Mais de 250 modelos pré-gravados suportam APIs do tipo Hugging Face Transformers . Você pode usá -los facilmente seguindo o snippet de código:

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • Suporte completo da plataforma : suporte abrangente para Ascend 910 series , Ascend 310B (Orange Pi) , GPU e CPU . (Nota: atualmente o único kit de desenvolvimento de IA disponível no Orange Pi.)
  • Inferência paralela distribuída : Suporte de inferência paralela com vários dispositivos e vários processos para modelos que excedam os parâmetros 10B.
  • Suporte ao algoritmo de quantização : Smoothquant disponível para PI laranja; Quantização Int8 do tipo bitsandbytes suportada na GPU.
  • Suporte ao transformador de frases : permite o desenvolvimento eficiente do desenvolvimento de trapos (geração de recuperação de agitação).
  • Otimização de desempenho do gráfico dinâmico : atinge as velocidades de inferência no nível do pytorch+GPU para gráficos dinâmicos em hardware ascendente (desempenho testado de llama a 85ms/token ).
  • Unificação de gráfico estático e dinâmico verdadeiro : Mudança de uma linha para o modo gráfico com mindspore.jit , totalmente compatível com o estilo de código de rosto abraçado para facilidade de uso e melhoria rápida de desempenho. O desempenho testado de llama no hardware Ascend atinge a velocidade de gráfico dinâmico 2x ( 45ms/token ), consistente com outros suítes estáticas baseadas em gráficos MindSpore.
  • Atualizações extensas de aplicativos LLM : Inclui Text information extraction , Chatbots , Speech recognition , ChatPDF , Music generation , Code generation , Voice clone etc. Com aumento do suporte do modelo, aplicativos ainda mais emocionantes aguardam desenvolvimento!

Instalação

Instale a partir de Pypi

Você pode instalar a versão oficial do MindNLP, que é carregada para o Pypi.

pip install mindnlp

Construção diária

Você pode baixar a roda diária do MindNLP a partir daqui.

Instale da fonte

Para instalar o MindNLP da fonte, execute:

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

Compatibilidade da versão

Versão MindNLP	Versão MindSpore	Versão do Python suportado
mestre	construção diária	> = 3.7.5, <= 3.9
0.1.1	> = 1.8.1, <= 2.0.0	> = 3.7.5, <= 3.9
0.2.x	> = 2.1.0	> = 3,8, <= 3.9
0.3.x	> = 2.1.0, <= 2.3.1	> = 3,8, <= 3.9
0.4.x	> = 2.2.x	> = 3.9, <= 3.11

Introdução

O MINDNLP é uma biblioteca de NLP de código aberto baseado no MindSpore. Ele suporta uma plataforma para resolver tarefas de processamento de linguagem natural, contendo muitas abordagens comuns na PNL. Pode ajudar pesquisadores e desenvolvedores a construir e treinar modelos de maneira mais conveniente e rápida.

A filial mestre trabalha com o Mindspore Master .

Principais características

• Processamento abrangente de dados : vários conjuntos de dados clássicos da NLP são embalados em módulo amigável para facilitar o uso, como multi30k, esquadrão, conll, etc.
• Conjunto de ferramentas do modelo PNL amigável : o MindNLP fornece vários componentes configuráveis. É amigável personalizar modelos usando o MINDNLP.
• Motor fácil de usar : o MINDNLP simplificou o complicado processo de treinamento em Mindspore. Ele suporta interfaces de treinador e avaliador para treinar e avaliar modelos facilmente.

Modelos suportados

Como existem muitos modelos suportados, verifique aqui

Licença

Este projeto é lançado sob a licença Apache 2.0.

Feedbacks e contato

A versão dinâmica ainda está em desenvolvimento, se você encontrar algum problema ou tiver uma idéia sobre novos recursos, não hesite em entrar em contato conosco por meio de problemas do GitHub.

MindSpore NLP Sig

O MindSpore NLP SIG (Grupo de Interesse Especial de Processamento de Linguagem Natural) é a principal equipe de desenvolvimento da estrutura MindNLP. O objetivo é colaborar com desenvolvedores da indústria e da academia interessados ​​em pesquisa, desenvolvimento de aplicativos e implementação prática do processamento de linguagem natural. Nosso objetivo é criar a melhor estrutura de PNL com base na estrutura doméstica MindSpore. Além disso, realizamos regularmente sessões de compartilhamento de tecnologia da PNL e eventos offline. Os desenvolvedores interessados ​​podem ingressar em nosso grupo SIG usando o código QR abaixo.

Reconhecimento

A MindSpore é um projeto de código aberto que recebe qualquer contribuição e feedback.
Desejamos que a caixa de ferramentas e a referência possam servir à crescente pesquisa
Comunidade, fornecendo um kit de ferramentas flexível e padronizado para reimplementar os métodos existentes
e desenvolver seus novos métodos de segmentação semântica.

Citação

Se você achar este projeto útil em sua pesquisa, considere citar:

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}