RAG System

Требования

• Python 3.8 или позже

Установите Python с помощью Miniconda

1. Скачать и установить Miniconda отсюда
2. Создайте новую среду, используя следующую команду:

$ conda create -n mini-rag python=3.8

3. Активируйте окружающую среду:

$ conda activate mini-rag

(Необязательно) Настройка вашего интерфейса командной строки для лучшей читаемости

 export PS1= " [33[01;32m]u@h:wn[33[00m] $ "

(Необязательно) Запустите Ollama Local LLM -сервер, используя Colab + Ngrok

• Проверьте ноутбук + видео

Установка

Установите необходимые пакеты

$ pip install -r requirements.txt

Настройка переменных среды

$ cp .env.example .env

Установите переменные вашей среды в файле .env . Как OPENAI_API_KEY value.

Запустить Docker Compose Services

$ cd docker
$ cp .env.example .env

• Обновление .env с вашими учетными данными

$ cd docker
$ sudo docker compose up -d

Запустите сервер FASTAPI

$ uvicorn main:app --reload --host 0.0.0.0 --port 5000

Сборник почтальона

Загрузите коллекцию почты из /Assets/mini-rag-app.postman_collection.json