QnA With RAG

QNA-With-Rag

? Description du projet

QNA-With-Rag est une application complète qui transforme les documents texte en contexte pour les modèles de grande langue (LLM) pour référence pendant les chats. Vous pouvez facilement ajouter, supprimer des documents et créer plusieurs bases de connaissances.

But et objectifs

Ce projet vise à créer un chatbot prêt pour la production à l'aide de l'API OpenAI. Il intègre VectordB et Langsmith pour améliorer sa fonctionnalité.

Technologies utilisées

Caractéristiques

• Discuter avec des fichiers texte
• Chat en streaming
• Télécharger plusieurs fichiers texte
• Maintenir une DB vectorielle (fichiers Ajouter / supprimer)
• Authentification statique des jetons API pour ChromAdB
• Créer plusieurs bases de connaissances

Flux d'applications

? Démo

Regardez une démo de l'application ici.

Développement futur

Les futures mises à jour comprendront:

• Intégration react.js frontal
• Caractéristiques ChromAdb améliorées (filtrage, recherche)
• Capacités de mémoire pour le chatbot

▶ ️ Installation et configuration

1. Cloner le référentiel

   git clone [email protected]:Ja-yy/QnA-With-RAG.git

2. Configurer des variables d'environnement

   Créez un fichier .env avec le contenu suivant:

    OPENAI_API_KEY='<your_open_ai_key>'
   EMBEDDING_MODEL='text-embedding-ada-002'
   CHAT_MODEL='gpt-3.5-turbo'
   TEMPERATURE=0
   MAX_RETRIES=2
   REQUEST_TIMEOUT=15
   
   CHROMADB_HOST="chromadb"
   CHROMADB_PORT="8000"
   
   CHROMA_SERVER_AUTH_CREDENTIALS="<test-token>"
   CHROMA_SERVER_AUTH_CREDENTIALS_PROVIDER="chromadb.auth.token.TokenConfigServerAuthCredentialsProvider"
   CHROMA_SERVER_AUTH_PROVIDER="chromadb.auth.token.TokenAuthServerProvider"
   CHROMA_SERVER_AUTH_TOKEN_TRANSPORT_HEADER="AUTHORIZATION"
   

3. Construire et exécuter l'application

   Exécutez la commande suivante:

   docker-compose up -d --build

4. Accéder à la demande

   Ouvrez votre navigateur Web et allez sur LocalHost pour commencer à utiliser l'application.

5. Configuration Nginx

   • Nginx agit comme un proxy inversé, de routage des demandes vers les services appropriés et de gérer les HTTP (si configurés).
   • Assurez-vous que vos fichiers de configuration Nginx sont correctement configurés dans le répertoire nginx pour des performances optimales.

? Questions fréquemment posées

• Que dois-je faire si je rencontre des problèmes?

  • Vérifiez les journaux à l'aide docker-compose logs pour le dépannage.

• Comment puis-je contribuer?

  • N'hésitez pas à ouvrir des problèmes ou à soumettre des demandes de traction sur GitHub!

Profitez d'utiliser l'application! :)