ragchat

Рагхат

Демо -поиск дополненный AI Chatbot с использованием компонентов с открытым исходным кодом и SemADB.

Установка

Установите зависимости от питона:

pip install -r requirements.txt

Установите Ollama в качестве основного LLM:

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

Использование

Запустите сервер Ollama:

ollama serve

и установить желаемую модель:

ollama pull llama2
# Test using
ollama run llama2

Затем запустите точку main.py .

SEMADB_API_KEY=... python3 main.py

Построен с

• Langchain используется для склеивания компонентов
• Градио веб -интерфейс
• Библиотека Main Main Language Model Ollama
• Трансформеры предложений Модель встраивания