RAG System

要求

• Python 3.8或更高版本

使用mincodonda安裝Python

1. 從這裡下載並安裝Miniconda
2. 使用以下命令創建一個新的環境：

$ conda create -n mini-rag python=3.8

3. 激活環境：

$ conda activate mini-rag

（可選）設置您的命令行接口以獲得更好的可讀性

 export PS1= " [33[01;32m]u@h:wn[33[00m] $ "

（可選）使用COLAB + NGROK運行Ollama本地LLM服務器

• 檢查筆記本 +視頻

安裝

安裝所需的軟件包

$ pip install -r requirements.txt

設置環境變量

$ cp .env.example .env

在.env文件中設置環境變量。像OPENAI_API_KEY值一樣。

運行Docker組成服務

$ cd docker
$ cp .env.example .env

• 使用您的憑據更新.env

$ cd docker
$ sudo docker compose up -d

運行FastApi服務器

$ uvicorn main:app --reload --host 0.0.0.0 --port 5000

Postman Collection

從 /assets/mini-rag-app.postman_collection.json下載郵遞員集合