ragchat

ragchat

CHATBOT AU CHACTBOT AUGMAGE DE DÉMO À l'aide de composants open source et SEMADB.

Installation

Installez les dépendances Python:

pip install -r requirements.txt

Installez Olllama en tant que LLM principal:

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

Usage

Démarrez le serveur Ollama:

ollama serve

et installer le modèle souhaité:

ollama pull llama2
# Test using
ollama run llama2

Ensuite, exécutez le point d'entrée main.py avec la touche API SEMADB:

SEMADB_API_KEY=... python3 main.py

Construit avec

• Langchain utilisé pour coller des composants ensemble
• Interface Web Gradio
• Bibliothèque de modèles de grande langue sur la grande langue
• Transformers de phrase Le modèle d'intégration