RAG System

Anforderungen

• Python 3.8 oder höher

Installieren Sie Python mit Miniconda

1. Laden Sie Miniconda von hier herunter und installieren Sie sie
2. Erstellen Sie eine neue Umgebung mit dem folgenden Befehl:

$ conda create -n mini-rag python=3.8

3. Aktivieren Sie die Umgebung:

$ conda activate mini-rag

(Optional) Setup -Sie -Befehlszeilenschnittstelle für eine bessere Lesbarkeit einrichten

 export PS1= " [33[01;32m]u@h:wn[33[00m] $ "

(Optional) Führen Sie den lokalen LLM -Server von Ollama mit Colab + NGROK aus

• Überprüfen Sie das Notebook + Video

Installation

Installieren Sie die erforderlichen Pakete

$ pip install -r requirements.txt

Richten Sie die Umgebungsvariablen ein

$ cp .env.example .env

Stellen Sie Ihre Umgebungsvariablen in der Datei .env ein. Wie OPENAI_API_KEY value.

Führen Sie Docker Compose Services aus

$ cd docker
$ cp .env.example .env

• Aktualisieren Sie .env mit Ihren Anmeldeinformationen

$ cd docker
$ sudo docker compose up -d

Führen Sie den Fastapi -Server aus

$ uvicorn main:app --reload --host 0.0.0.0 --port 5000

Postmannsammlung

Laden Sie die Postman-Sammlung von /assets/mini-rag-app.postman_collection.json herunter