RAG System

Requisitos

• Python 3.8 ou mais tarde

Instale o Python usando Miniconda

1. Faça o download e instale o Miniconda daqui
2. Crie um novo ambiente usando o seguinte comando:

$ conda create -n mini-rag python=3.8

3. Ative o ambiente:

$ conda activate mini-rag

(Opcional) Configuração da sua interface de linha de comando para melhor legibilidade

 export PS1= " [33[01;32m]u@h:wn[33[00m] $ "

(Opcional) Execute o servidor LLM local de Ollama usando o Colab + NGrok

• Verifique o notebook + vídeo

Instalação

Instale os pacotes necessários

$ pip install -r requirements.txt

Configure as variáveis ​​do ambiente

$ cp .env.example .env

Defina suas variáveis ​​de ambiente no arquivo .env . Como OPENAI_API_KEY .

Run Docker Compose Services

$ cd docker
$ cp .env.example .env

• atualizar .env com suas credenciais

$ cd docker
$ sudo docker compose up -d

Execute o servidor FASTAPI

$ uvicorn main:app --reload --host 0.0.0.0 --port 5000

Coleção de Postman

Faça o download da coleção Postman de /assets/mini-rag-app.postman_collection.json