ContextQA

Discutez avec vos données en tirant parti de la puissance des bases de données LLMS et Vector

---

ContextQA est un utilitaire moderne qui fournit une application LLM prêt à l'emploi. Il est construit sur des géants tels que Fastapi, Langchain et le visage étreint.

Les caractéristiques clés comprennent:

• CHAT régulièrement soutenant l'extension des connaissances via l'accès à Internet
• QA conversationnel avec des sources pertinentes
• Réponses en streaming
• Ingestion de sources de données utilisées dans les séances d'AQ
• Gestion des sources de données
• Paramètres LLM: Configurer des paramètres tels que le fournisseur, le modèle, la température, etc. Actuellement, les fournisseurs pris en charge sont Openai et Google
• Paramètres Vector DB. Ajustez les paramètres tels que le moteur, la taille du morceau, le chevauchement de morceaux, etc. Actuellement, les moteurs pris en charge sont ChromAdb et Pinecone
• Autres paramètres: choisissez la mémoire LLM intégrée ou externe ( redis ), le répertoire multimédia, les informations d'identification de la base de données, etc.

Installation

pip install contextqa

Usage

Sur l'installation ContextQa fournit un outil CLI

contextqa init

Consultez les paramètres disponibles en exécutant la commande suivante

contextqa init --help

Exemple

Courir

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

Vérifiez

Ouvrez votre navigateur sur http: // localhost: 8080. Vous verrez le stepper d'initialisation qui vous guidera à travers les configurations initiales

Ou la vue principale contextuelle - si la configuration initiale a déjà été définie

Ligne directrice

Pour les instructions détaillées d'utilisation, veuillez vous référer aux directives d'utilisation.

Contributif

Nous saluons les contributions à ContextQA ! Pour commencer, veuillez consulter notre fichier contribution.md pour des directives sur la façon de contribuer. Vos commentaires et contributions nous aident à améliorer et à améliorer le projet. Merci de votre intérêt à contribuer!