ragchat

Ragchat

Demo Abruf Augmented Chatbot AI mit Open Source -Komponenten und Semadb.

Installation

Installieren Sie die Python -Abhängigkeiten:

pip install -r requirements.txt

Installieren Sie Ollama als Haupt -LLM:

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

Verwendung

Starten Sie den Ollama -Server:

ollama serve

und installieren Sie das gewünschte Modell:

ollama pull llama2
# Test using
ollama run llama2

Führen Sie dann den Einstiegspunkt der main.py mit dem Semadb -API -Schlüssel aus:

SEMADB_API_KEY=... python3 main.py

Gebaut mit

• Langchain verwendet zum Kleben von Komponenten
• Gradio Web Interface
• Ollama Main Language Model Library
• Satztransformatoren Das Einbettungsmodell