mindnlp

Mindnlp

Tabla de contenido

• Mindnlp
  • Tabla de contenido
  • Noticias ?
  • Instalación
    • Instalar desde PYPI
    • Construcción diaria
    • Instalar desde la fuente
    • Compatibilidad de la versión
  • Introducción
    • Características principales
  • Modelos compatibles
  • Licencia
  • Comentarios y contacto
  • Mindspore NLP SIG
  • Reconocimiento
  • Citación

Noticias ?

• Últimas características

  • ? Más de 250 modelos previos a la pretrada admiten API similares a los transformadores de la cara de abrazo . Puede usarlos fácilmente siguiendo el fragmento de código:

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • Soporte de plataforma completa : soporte integral para Ascend 910 series , Ascend 310B (Orange Pi) , GPU y CPU . (Nota: Actualmente el único kit de desarrollo de IA disponible en Orange Pi).
  • Inferencia paralela distribuida : soporte de inferencia paralela multiprocesada, de nivel múltiple para modelos que exceden los parámetros de 10b.
  • Soporte de algoritmo de cuantización : suave de la PI naranja; Cuantización INT8 similar a Bitsandbytes compatible con GPU.
  • Apoyo al transformador de oraciones : permite el desarrollo de RAG (generación de recuperación de recuperación).
  • Optimización del rendimiento de gráficos dinámicos : logra las velocidades de inferencia de nivel de Pytorch+GPU para gráficos dinámicos en Hardware ASCEND (rendimiento de LLAMA probado a 85 ms/token ).
  • Verdadera unificación de gráficos estáticos y dinámicos : cambio de una línea al modo gráfico con mindspore.jit , totalmente compatible con el estilo de código de cara de abrazo tanto para la facilidad de uso como para la mejora rápida del rendimiento. El rendimiento de la llama probada en ASCEND Hardware alcanza la velocidad de gráficos dinámico de 2x ( 45ms/token ), de acuerdo con otras suites basadas en gráficos estáticos de Mindspore.
  • Actualizaciones extensas de aplicaciones LLM : incluye Text information extraction , Chatbots , Speech recognition , ChatPDF , Music generation , Code generation , Voice clone , etc. con un mayor soporte de modelos, ¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡¡

Instalación

Instalar desde PYPI

Puede instalar la versión oficial de MindNLP que se cargue a PYPI.

pip install mindnlp

Construcción diaria

Puede descargar Mindnlp Daily Wheel desde aquí.

Instalar desde la fuente

Para instalar Mindnlp desde la fuente, ejecute:

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

Compatibilidad de la versión

Versión de Mindnlp	Versión mental	Versión de Python compatible
maestro	construcción diaria	> = 3.7.5, <= 3.9
0.1.1	> = 1.8.1, <= 2.0.0	> = 3.7.5, <= 3.9
0.2.x	> = 2.1.0	> = 3.8, <= 3.9
0.3.x	> = 2.1.0, <= 2.3.1	> = 3.8, <= 3.9
0.4.x	> = 2.2.x	> = 3.9, <= 3.11

Introducción

MindNLP es una biblioteca NLP de código abierto basada en Mindspore. Admite una plataforma para resolver tareas de procesamiento del lenguaje natural, que contiene muchos enfoques comunes en PNL. Puede ayudar a los investigadores y desarrolladores a construir y entrenar modelos de manera más conveniente y rápida.

La rama maestra trabaja con Mindspore Master .

Características principales

• Procesamiento de datos integral : varios conjuntos de datos clásicos de PNL se empaquetan en un módulo amigable para un uso fácil, como multi30k, escuadrón, conll, etc.
• Hermano de herramientas del modelo NLP amigable : MindNLP proporciona varios componentes configurables. Es amigable para personalizar modelos usando MindnLP.
• Motor fácil de usar : MindNLP simplificó el complicado proceso de entrenamiento en Mindspore. Admite interfaces de entrenador y evaluador para entrenar y evaluar los modelos fácilmente.

Modelos compatibles

Dado que hay demasiados modelos compatibles, consulte aquí

Licencia

Este proyecto se publica bajo la licencia Apache 2.0.

Comentarios y contacto

La versión dinámica todavía está en desarrollo, si encuentra algún problema o tiene una idea sobre nuevas funciones, no dude en contactarnos a través de problemas de GitHub.

Mindspore NLP SIG

Mindspore NLP SIG (Grupo de interés especial de procesamiento de lenguaje natural) es el principal equipo de desarrollo del marco MindNLP. Su objetivo es colaborar con desarrolladores de la industria y la academia que estén interesados ​​en la investigación, el desarrollo de aplicaciones y la implementación práctica del procesamiento del lenguaje natural. Nuestro objetivo es crear el mejor marco de PNL basado en el marco doméstico Mindspore. Además, tenemos regularmente sesiones de intercambio de tecnología NLP y eventos fuera de línea. Los desarrolladores interesados ​​pueden unirse a nuestro grupo SIG utilizando el código QR a continuación.

Reconocimiento

Mindspore es un proyecto de código abierto que acoge con beneplácito cualquier contribución y retroalimentación.
Deseamos que la caja de herramientas y el punto de referencia puedan servir a la creciente investigación.
Comunidad al proporcionar un conjunto de herramientas flexible y estandarizado para volver a implementar los métodos existentes
y desarrollar sus propios nuevos métodos de segmentación semántica.

Citación

Si encuentra útil este proyecto en su investigación, considere citar:

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}