ragchat

trapo

Recuperación de demostración de recuperación de chatbot ai utilizando componentes de código abierto y SEMADB.

Instalación

Instale las dependencias de Python:

pip install -r requirements.txt

Instale Ollama como el principal LLM:

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

Uso

Inicie el servidor Ollama:

ollama serve

e instale el modelo deseado:

ollama pull llama2
# Test using
ollama run llama2

Luego ejecute el punto de entrada main.py con la tecla API SEMADB:

SEMADB_API_KEY=... python3 main.py

Construido con

• Langchain se usa para pegar componentes juntos
• Interfaz web de Gradio
• Biblioteca de modelos de idiomas grandes de Ollama
• Transformadores de oraciones El modelo de incrustación