AI_Powered_Chat_bot_with_message_history

Konversationslappen mit PDF -Uploads und Chat -Historie

Dieses Projekt ist ein RAG-System (Conversational Abruf-Augmented Generation), mit dem Benutzer PDF-Dateien hochladen, den Inhalt extrahieren und Fragen zum hochgeladenen Inhalt stellen können. Das System verfolgt den Chat -Verlauf und kontextualisiert Benutzerfragen basierend auf dem vergangenen Gespräch, um relevante Antworten zu geben.

Die Anwendung wird mit Stromversorgung für die Benutzeroberfläche erstellt, GROQ für das LLM (Sprachmodell) und Chroma als Vektorspeicher integriert, um Dokumenteinbettungen und Abrufen zu verarbeiten. Der Konversationsfluss wird mit Chat-Historie aufrechterhalten, um eine staatliche Fragen zu ermöglichen.

Merkmale

• PDF -Upload : Benutzer können mehrere PDF -Dateien hochladen und der Inhalt wird verarbeitet und indiziert.
• Fragenbeantwortung : Stellen Sie Fragen zu den hochgeladenen PDF -Dokumenten, und der Assistent wird auf der Grundlage des Inhalts beantwortet.
• Chat -Geschichte : Verfolgt vergangene Fragen und Antworten, um zukünftige Abfragen zu kontextualisieren.
• Integration mit GREQ : Verwendet die GROQ -API für Sprachmodellierung und Antwortgenerierung.
• Einbettungen : Verwendet HuggingFaceEmbeddings , um Dokumenteneinbettungen zu erstellen und relevante Inhalte abzurufen.

Anforderungen

Um dieses Projekt auszuführen, benötigen Sie Folgendes:

• Python 3.7+
• Eine COQ -API -Schlüssel
• Ein Umarmungsface -API -Token

Installation

1. Klonen Sie das Repository:

   git clone https://github.com/yourusername/conversational-rag-with-pdf.git
   cd conversational-rag-with-pdf

2. Erstellen Sie eine virtuelle Umgebung:

   python3 -m venv venv
   source venv/bin/activate  # On Windows, use `venvScriptsactivate`

3. Installieren Sie die erforderlichen Abhängigkeiten:

   pip install -r requirements.txt

4. Umgebungsvariablen einrichten:

   Erstellen Sie eine .env -Datei im Stammverzeichnis und fügen Sie Ihre API -Schlüssel hinzu:

   touch .env

   Fügen Sie in der .env -Datei Folgendes hinzu:

   HF_TOKEN=your_huggingface_token
   GROQ_API_KEY=your_groq_api_key

5. Führen Sie die Anwendung aus:

   streamlit run utils.py

Verwendung

Schritt 1: Geben Sie die COQ -API -Taste ein

Wenn Sie die App starten, müssen Sie zunächst Ihre COQ -API -Taste eingeben. Dies ist erforderlich, um die Sprachmodellierung und Fragen zu beantworten.

Schritt 2: PDFS hochladen

Klicken Sie auf die Schaltfläche PDF -Datei auswählen, um eine oder mehrere PDF -Dateien hochzuladen. Der Inhalt der PDFs wird verarbeitet und für ein effizientes Abrufen in Stücke aufgeteilt.

Schritt 3: Fragen stellen

Nach dem Hochladen von PDFs können Sie Fragen zum Inhalt der hochgeladenen Dateien stellen. Der Assistent antwortet basierend auf dem von PDFS und vorherigen Chat -Verlauf bereitgestellten Kontext.

Schritt 4: Chat -Historie verwalten

Das System verfolgt den Gesprächsgeschichte. Sie können den Sitzungsverlauf anzeigen, und der Assistent verwendet diese Geschichte, um Folgefragen im Kontext zu beantworten.

Beispielhandlung:

1. Starten Sie die App und geben Sie Ihre COQ -API -Taste ein.
2. Laden Sie PDFs hoch , die den Inhalt enthalten, nach dem Sie fragen möchten.
3. Geben Sie eine Frage in das Eingabefeld wie "Was ist die Zusammenfassung von Kapitel 3?"
4. Der Assistent antwortet basierend auf dem hochgeladenen PDF -Inhalt und gibt eine präzise Antwort.
5. Stellen Sie Follow-up-Fragen, und das System wird das vergangene Gespräch verwenden, um kontextbewusste Antworten zu liefern.

Schlüsselkomponenten

• Streamlit : Bietet die Benutzeroberfläche und Forminteraktionen.
• Chroma : Wird als Vektor Store verwendet, um Einbettungen der geteilten PDF -Dokumente zum Abrufen zu speichern.
• GROQ-API : Überlegt die Frage-Antwort-Aufgabe mithilfe des Gemma2-9b-It Modells.
• LangChain : Verwaltet den Prozess des Abrufs und des Dokuments sowie die Handhabung des Chat -Verlaufs.

Zukünftige Verbesserungen

• Fügen Sie Unterstützung für andere Dokumenttypen (z. B. Word, Textdateien) hinzu.
• Verbessern Sie die Benutzeroberfläche für eine bessere Benutzerinteraktion.
• Fügen Sie mehrsprachige Unterstützung für nicht englische Dokumente hinzu.
• Implementieren Sie ein System zum Speichern und Laden von Chat -Historien in den gesamten Sitzungen.

Fehlerbehebung

Wenn Sie Probleme wie API -Schlüsselfehler oder Dateien hochladen, stellen Sie sicher, dass:

• Sie haben einen gültigen GROQ -API -Schlüssel und ein umarmendes Gesichts -Token .
• Die hochgeladenen PDFs sind gültig und können vom PYPDFLOADER gelesen werden.
• Alle Abhängigkeiten werden über pip install -r requirements.txt korrekt installiert.txt.

Anerkennung

• Langchain für den erstaunlichen Randwerk und LLM -Integrationsrahmen.
• Straffung für die einfach zu verwendende UI-Framework.