llm deploy

LLM-Deploy

Este tutorial se centra en la teoría y práctica de razonamiento y despliegue del modelo/LLM, y tiene como objetivo convertirse en su socio para dominar el arte y el despliegue del arte de LLM. Ya sea que sea un recién llegado en este campo o en un veterano que busque profundizar sus habilidades profesionales, puede encontrar el camino clave para implementar con éxito grandes modelos de idiomas aquí.

Razones de propuesta de proyecto

Compensan la falta de razonamiento e implementación. Proporcione una buena información introductoria para más estudiantes interesados ​​en este campo o profesionales dentro y fuera de la industria.

Audiencia

• Ingeniero de algoritmo.
• Estudiantes interesados ​​en el despliegue de razonamiento.

Lo más destacado del proyecto

1. Las teorías y prácticas relevantes se implementan en el razonamiento.
2. Práctica de optimización de modelo y servicio.
3. Salida integral de muchos ingenieros con experiencia práctica.

Participar en la contribución

• Si desea participar en el proyecto, bienvenido para ver el problema del proyecto para ver las tareas que no están asignadas.
• Si encuentra algunos problemas, no dude en dar su opinión en problemas.
• Si está interesado en este proyecto y desea participar, puede comunicarse a través de la discusión.

Si está interesado en Datawhale y desea lanzar un nuevo proyecto, consulte la Guía de contribución de Datawhale.

Lista de contribuyentes

Nombre	Responsabilidad	Introducción	video
Changqin, Yuli	Líder del proyecto
Maolín	Capítulo 1 Persona a cargo	Cuantificación	Enlace
Yufei	Capítulo 2 Persona a cargo	Destilación
Yuli	Capítulo 3: Persona a cargo	Poda	Enlace
Wangyin	Capítulo 4: Persona a cargo	Descomposición de bajo rango
Fan de shu	Capítulo 5: Persona a cargo	expresar	Enlace
Sol de primavera	Capítulo 6: Persona a cargo	correr
Yang zhuo	Capítulo 7: Persona a cargo	marco
Xue Boyang	Capítulo 8 La persona a cargo	paralelo	Enlace
Jersey Zhang	Capítulo 9: Persona a cargo	concurrente	Enlace
Li Taiying	Capítulo 10 La persona a cargo	Memoria

Nota: El encabezado se puede personalizar, pero el administrador del proyecto debe indicarse en la lista.

Síganos

Escanee el código QR a continuación para seguir la cuenta oficial: Datawhale

LICENCIA

Este trabajo tiene licencia bajo Creative Commons Attribution-No-Commercial-Share 4.0 Licencia internacional.

Nota: El protocolo CC 4.0 se usa de forma predeterminada, y otros protocolos también se pueden seleccionar de acuerdo con la situación de su propio proyecto.