LLM Pandoras

Inglés | 简体中文 |

LLM-Workbench es un conjunto de herramientas para capacitar, ajustar y visualizar modelos de lenguaje utilizando Streamlit. Es muy adecuado para investigadores y entusiastas de la IA.

Características

• ? Preguntas y respuestas de la base de conocimiento : proporcionamos varias formas de recuperación de conocimiento, donde ES utiliza la búsqueda híbrida 8.9.0 para buscar fragmentos de conocimiento relevantes basados ​​en la entrada y la respuesta.
• Preguntas y respuestas de Excel : usamos ChatGlm3 para generar el código de Python correspondiente en función de la pregunta, y usamos el núcleo para ejecutar el código relevante para devolver el resultado.
• ? Capacitación de modelos : con nuestro kit de herramientas, puede capacitar fácilmente su propio modelo de idioma.
• ? Modelo ajustado : proporcionamos una forma simple de ajustar su modelo para adaptarse mejor a su tarea específica.
• Visualización del modelo : nuestro conjunto de herramientas incluye algunas herramientas de visualización que pueden ayudarlo a comprender mejor su modelo.

? Instalación de Docker-Compose

Instale ElasticSearch (abra el puerto del servidor correspondiente de acuerdo con el archivo Docker-compuesto o lo personalice):

 cd docker/es
docker-compose up -d

Para usar las preguntas y respuestas de la base de conocimiento, debe construir el índice correspondiente:

Método uno: puede instalar LLM-Workbench con el siguiente comando:

 cd LLM-Workbench
docker-compose up -d

Para el caso de usar preguntas y respuestas de la tabla de Excel, debe ingresar el contenedor y especificar el intérprete del núcleo:

 ipython kernel install --name llm --user

Donde, LLM corresponde al nombre del entorno de conda.

? Uso

Método dos: después de instalar LLM-Workbench, puede iniciarlo con el siguiente comando:

 pip install -r requirements.txt
streamlit run chat-box.py

Luego, puede abrir la URL mostrada en su navegador para comenzar a usar LLM-Workbench.

? Contribución

¡Agradecemos cualquier forma de contribución! Si tiene alguna pregunta o sugerencia, no dude en plantearlas en Github.

? Licencia

LLM-Workbench se publica bajo la licencia MIT. Para obtener más detalles, consulte el archivo de licencia.

? Contáctenos

Si tiene alguna pregunta o sugerencia, no dude en preguntarnos por correo electrónico o GitHub.

Historia de la estrella