ragchat

拉格

演示检索使用开源组件和SEMADB增强聊天机器人AI。

安装

安装Python依赖性：

pip install -r requirements.txt

安装Ollama作为主要LLM：

https://ollama.com/download/ollama-linux-amd64 -o ollama
chmod +x ollama

用法

启动Ollama服务器：

ollama serve

并安装所需的型号：

ollama pull llama2
# Test using
ollama run llama2

然后使用SEMADB API键运行main.py入口点：

SEMADB_API_KEY=... python3 main.py

建立

• 兰链用于将组件粘合在一起
• Gradio Web界面
• Ollama主语言模型库
• 句子变形金刚嵌入模型