ragchat

รกแชท

Demo retrieval Augmented chatbot AI โดยใช้ส่วนประกอบโอเพ่นซอร์สและ semadb

การติดตั้ง

ติดตั้งการพึ่งพา Python:

pip install -r requirements.txt

ติดตั้ง Ollama เป็น LLM หลัก:

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

การใช้งาน

เริ่มเซิร์ฟเวอร์ Ollama:

ollama serve

และติดตั้งรุ่นที่ต้องการ:

ollama pull llama2
# Test using
ollama run llama2

จากนั้นเรียกใช้จุดเข้า main.py ด้วยคีย์ Semadb API:

SEMADB_API_KEY=... python3 main.py

สร้างขึ้นด้วย

• Langchain ใช้สำหรับติดกาวส่วนประกอบร่วมกัน
• ส่วนต่อประสานเว็บ Gradio
• Ollama Main Main Language Model Library
• ประโยคหม้อแปลงรูปแบบการฝัง