ragchat

راغات

Demo Retrieval chatbot AI باستخدام مكونات المصدر المفتوح و SEMADB.

تثبيت

تثبيت تبعيات بيثون:

pip install -r requirements.txt

تثبيت Ollama باعتباره LLM الرئيسي:

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

الاستخدام

ابدأ خادم Ollama:

ollama serve

وتثبيت النموذج المطلوب:

ollama pull llama2
# Test using
ollama run llama2

ثم قم بتشغيل نقطة إدخال main.py باستخدام مفتاح SEMADB API:

SEMADB_API_KEY=... python3 main.py

بنيت مع

• يستخدم Langchain لللصق معا مكونات
• Gradio Web Interface
• مكتبة نماذج اللغة الرئيسية الرئيسية في Ollama
• محولات الجملة نموذج التضمين