LLM Pandoras

Anglais | 简体中文 |

LLM-Workbench est une boîte à outils pour la formation, le réglage fin et la visualisation des modèles de langage à l'aide de rationalisation. Il est très adapté aux chercheurs et aux amateurs d'IA.

Caractéristiques

• ? Q&A de base de connaissances : Nous fournissons diverses façons de récupérer les connaissances, où ES utilise la recherche hybride 8.9.0 pour rechercher des fragments de connaissances pertinents basés sur les entrées et la réponse.
• EXCEL Q&A : Nous utilisons le chatglm3 pour générer du code Python correspondant en fonction de la question, et utilisons le noyau pour exécuter le code pertinent pour renvoyer le résultat.
• ? Formation du modèle : avec notre boîte à outils, vous pouvez facilement former votre propre modèle de langue.
• ? Modèle Fine-réglage : nous fournissons un moyen simple d'affiner votre modèle pour mieux s'adapter à votre tâche spécifique.
• Visualisation du modèle : Notre boîte à outils comprend certains outils de visualisation qui peuvent vous aider à mieux comprendre votre modèle.

? Installation de compose Docker

Installez ElasticSearch (veuillez ouvrir le port de serveur correspondant en fonction du fichier Docker-Compose, ou personnalisez-le):

 cd docker/es
docker-compose up -d

Pour utiliser la Q&R de la base de connaissances, vous devez créer l'index correspondant:

Méthode One: Vous pouvez installer LLM-WorkBench avec la commande suivante:

 cd LLM-Workbench
docker-compose up -d

Pour le cas d'utilisation de la tablette Q&R de la table Excel, vous devez saisir le conteneur et spécifier l'interprète de noyau:

 ipython kernel install --name llm --user

Où, LLM correspond au nom de l'environnement conda.

? Usage

Méthode deux: Après avoir installé LLM-Workbench, vous pouvez le démarrer avec la commande suivante:

 pip install -r requirements.txt
streamlit run chat-box.py

Ensuite, vous pouvez ouvrir l'URL affichée dans votre navigateur pour commencer à utiliser LLM-Workbench.

? Contribution

Nous accueillons toute forme de contribution! Si vous avez des questions ou des suggestions, n'hésitez pas à les soulever sur Github.

? Licence

LLM-Workbench est libéré sous la licence MIT. Pour plus de détails, veuillez consulter le fichier de licence.

? Contactez-nous

Si vous avez des questions ou des suggestions, n'hésitez pas à nous poser par e-mail ou GitHub.

Histoire des étoiles