ragchat

拉格

演示檢索使用開源組件和SEMADB增強聊天機器人AI。

安裝

安裝Python依賴性：

pip install -r requirements.txt

安裝Ollama作為主要LLM：

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

用法

啟動Ollama服務器：

ollama serve

並安裝所需的型號：

ollama pull llama2
# Test using
ollama run llama2

然後使用SEMADB API鍵運行main.py入口點：

SEMADB_API_KEY=... python3 main.py

建立

• 蘭鏈用於將組件粘合在一起
• Gradio Web界面
• Ollama主語言模型庫
• 句子變形金剛嵌入模型