AI_Powered_Chat_bot_with_message_history

Rag conversationnel avec des téléchargements PDF et l'historique du chat

Ce projet est un système de génération (RAG) de la récupération de la conversation conversationnelle qui permet aux utilisateurs de télécharger des fichiers PDF, d'extraire le contenu et de poser des questions sur le contenu téléchargé. Le système garde une trace de l'historique du chat et contextualise les questions des utilisateurs en fonction de la conversation passée pour fournir des réponses pertinentes.

L'application est construite avec Streamlit pour l'interface utilisateur, intègre le GROQ pour le LLM (modèle de langue) et Chroma en tant que magasin vectoriel pour gérer les intégres et la récupération des documents. Le flux conversationnel est maintenu avec l'historique du chat pour permettre un réponses de questions avec état.

Caractéristiques

• PDF Téléchargement : les utilisateurs peuvent télécharger plusieurs fichiers PDF et le contenu est traité et indexé.
• Réponse des questions : poser des questions sur les documents PDF téléchargés, et l'assistant répondra en fonction du contenu.
• Historique du chat : garde une trace des questions et réponses passées pour contextualiser les questions futures.
• L'intégration avec GROQ : utilise l'API GROQ pour la modélisation du langage et la génération de réponse.
• Embeddings : utilise HuggingFaceEmbeddings pour créer des intégres de documents et récupérer le contenu pertinent.

Exigences

Pour exécuter ce projet, vous avez besoin de ce qui suit:

• Python 3.7+
• Une clé API Groq
• Un jeton API HUGGINGFACT

Installation

1. Clone le référentiel:

   git clone https://github.com/yourusername/conversational-rag-with-pdf.git
   cd conversational-rag-with-pdf

2. Créer un environnement virtuel:

   python3 -m venv venv
   source venv/bin/activate  # On Windows, use `venvScriptsactivate`

3. Installez les dépendances requises:

   pip install -r requirements.txt

4. Configurer des variables d'environnement:

   Créez un fichier .env dans le répertoire racine et ajoutez vos touches API:

   touch .env

   À l'intérieur du fichier .env , ajoutez ce qui suit:

   HF_TOKEN=your_huggingface_token
   GROQ_API_KEY=your_groq_api_key

5. Exécutez l'application:

   streamlit run utils.py

Usage

Étape 1: Entrez la touche API GROQ

Lorsque vous lancez l'application, vous devrez d'abord saisir votre touche API GROQ. Cela est nécessaire pour effectuer la modélisation du langage et la réponse aux questions.

Étape 2: Télécharger les PDF

Cliquez sur le bouton Choisissez un fichier PDF pour télécharger un ou plusieurs fichiers PDF. Le contenu des PDF sera traité et divisé en morceaux pour une récupération efficace.

Étape 3: Posez des questions

Après avoir téléchargé des PDF, vous pouvez poser des questions liées au contenu des fichiers téléchargés. L'assistant répondra sur la base du contexte fourni par les PDF et l'historique de chat précédent.

Étape 4: Gérer l'historique du chat

Le système suit l'historique de la conversation. Vous pouvez voir l'histoire de la session et l'assistant utilise cette histoire pour répondre aux questions de suivi dans son contexte.

Exemple de procédure pas à pas:

1. Démarrez l'application et saisissez votre touche API Groq .
2. Téléchargez des PDF qui contiennent le contenu que vous souhaitez demander.
3. Tapez une question dans le champ d'entrée comme: "Quel est le résumé du chapitre 3?"
4. L'assistant répondra en fonction du contenu PDF téléchargé et fournira une réponse concise.
5. Posez des questions de suivi et le système utilisera la conversation passée pour fournir des réponses contextuelles.

Composants clés

• Streamlit : fournit l'interface utilisateur et les interactions de formulaire.
• Chroma : Utilisé comme magasin vectoriel pour stocker des intégres des documents PDF divisés pour la récupération.
• API GROQ : gère la tâche de réponse aux questions à l'aide du modèle Gemma2-9b-It .
• Langchain : gère le processus de combinaison de récupération et de documents, ainsi que la manipulation de l'historique du chat.

Améliorations futures

• Ajoutez une prise en charge des autres types de documents (par exemple, Word, fichiers texte).
• Améliorez l'interface utilisateur pour une meilleure interaction utilisateur.
• Ajoutez une prise en charge multi-langues pour les documents non anglais.
• Implémentez un système pour enregistrer et charger l'historique de chat entre les sessions.

Dépannage

Si vous rencontrez des problèmes tels que des erreurs de clés de l'API ou des problèmes de téléchargement de fichiers, assurez-vous que:

• Vous avez une clé API Groq valide et un jeton de face étreint .
• Les PDF téléchargés sont valides et peuvent être lus par le PYPDFLoader.
• Toutes les dépendances sont installées correctement via pip install -r requirements.txt .

Remerciements

• Langchain pour l'incroyable récupération et le cadre d'intégration LLM.
• Rationalisation pour fournir le cadre d'interface utilisateur facile à utiliser.