QnA With RAG

Qna-with-Rag

? Projektbeschreibung

QNA-with-Rag ist eine Vollstapelanwendung, die Textdokumente für große Sprachmodelle (LLMs) in den Chats in den Kontext verwandelt. Sie können Dokumente einfach hinzufügen, löschen und mehrere Wissensbasis erstellen.

Zweck und Ziele

Dieses Projekt zielt darauf ab, einen produktionsbereiten Chatbot mithilfe der OpenAI-API zu erstellen. Es enthält Vectordb und Langsmith, um seine Funktionalität zu verbessern.

Technologien verwendet

Merkmale

• Chat mit Textdateien
• Streaming -Chat
• Laden Sie mehrere Textdateien hoch hoch
• Verwalten Sie einen Vektor -DB (Dateien hinzufügen/löschen)
• Statische API -Token -Authentifizierung für Chromadb
• Erstellen Sie mehrere Wissensbasen

App Fluss

? Demo

Sehen Sie sich hier eine Demo der Anwendung an.

Zukünftige Entwicklung

Zukünftige Updates umfassen:

• React.js Frontend Integration
• Verbesserte Chromadb -Funktionen (Filterung, Suche)
• Speicherfunktionen für den Chatbot

▶ ️ Installation & Setup

1. Klonen Sie das Repository

   git clone [email protected]:Ja-yy/QnA-With-RAG.git

2. Umgebungsvariablen einrichten

   Erstellen Sie eine .env -Datei mit dem folgenden Inhalt:

    OPENAI_API_KEY='<your_open_ai_key>'
   EMBEDDING_MODEL='text-embedding-ada-002'
   CHAT_MODEL='gpt-3.5-turbo'
   TEMPERATURE=0
   MAX_RETRIES=2
   REQUEST_TIMEOUT=15
   
   CHROMADB_HOST="chromadb"
   CHROMADB_PORT="8000"
   
   CHROMA_SERVER_AUTH_CREDENTIALS="<test-token>"
   CHROMA_SERVER_AUTH_CREDENTIALS_PROVIDER="chromadb.auth.token.TokenConfigServerAuthCredentialsProvider"
   CHROMA_SERVER_AUTH_PROVIDER="chromadb.auth.token.TokenAuthServerProvider"
   CHROMA_SERVER_AUTH_TOKEN_TRANSPORT_HEADER="AUTHORIZATION"
   

3. Erstellen und führen Sie die Anwendung aus

   Führen Sie den folgenden Befehl aus:

   docker-compose up -d --build

4. Zugriff auf die Anwendung

   Öffnen Sie Ihren Webbrowser und gehen Sie zu Localhost, um mit der App zu beginnen.

5. Nginx -Konfiguration

   • Nginx fungiert als Reverse -Proxy, Routing -Anforderungen an die entsprechenden Dienste und die Behandlung von HTTPS (falls konfiguriert).
   • Stellen Sie sicher, dass Ihre NGINX -Konfigurationsdateien für eine optimale Leistung korrekt im nginx -Verzeichnis eingerichtet sind.

? Häufig gestellte Fragen

• Was soll ich tun, wenn ich auf Probleme stoße?

  • Überprüfen Sie die Protokolle mithilfe von docker-compose logs zur Fehlerbehebung.

• Wie kann ich dazu beitragen?

  • Fühlen Sie sich frei, Probleme zu öffnen oder Pull -Anfragen auf Github zu senden!

Genießen Sie es mit der App! :)