ragchat

Ragchat

Pengambilan demo augmented chatbot ai menggunakan komponen open source dan semadb.

Instalasi

Instal dependensi Python:

pip install -r requirements.txt

Instal ollama sebagai llm utama:

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

Penggunaan

Mulai server Ollama:

ollama serve

dan instal model yang diinginkan:

ollama pull llama2
# Test using
ollama run llama2

Kemudian jalankan titik masuk main.py dengan tombol API SEMADB:

SEMADB_API_KEY=... python3 main.py

Dibangun dengan

• Langchain digunakan untuk menempelkan komponen bersama
• Antarmuka Web Gradio
• Ollama Perpustakaan Model Bahasa Besar Utama
• Kalimat mengubah model penyematan