ragchat

ragchat

A recuperação de demonstração aumentou a IA do chatbot usando componentes de código aberto e semadb.

Instalação

Instale as dependências do Python:

pip install -r requirements.txt

Instale o Ollama como o principal LLM:

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

Uso

Inicie o servidor Ollama:

ollama serve

e instale o modelo desejado:

ollama pull llama2
# Test using
ollama run llama2

Em seguida, execute o ponto de entrada main.py com a tecla API SEMADB:

SEMADB_API_KEY=... python3 main.py

Construído com

• Langchain usado para colar componentes
• Interface da web gradio
• Biblioteca de modelos de grande idioma de ollama
• Sentença transforma o modelo de incorporação