ContextQA

Chatten Sie mit Ihren Daten, indem Sie die Leistung von LLM- und Vektor -Datenbanken nutzen

---

Contextqa ist ein modernes Dienstprogramm, das eine nutzende LLM-Anwendung bietet. Es ist auf Riesen wie Fastapi, Langchain und umarmendem Gesicht gebaut.

Zu den wichtigsten Funktionen gehören:

• Regelmäßiger Chat, der die Wissenserweiterung über den Internetzugang unterstützt
• Konversations -QA mit relevanten Quellen
• Streaming -Antworten
• Aufnahme von Datenquellen, die in QS -Sitzungen verwendet werden
• Datenquellenverwaltung
• LLM -Einstellungen: Konfigurieren Sie Parameter wie Anbieter, Modell, Temperatur usw. Derzeit sind die unterstützten Anbieter OpenAI und Google
• Vektor -DB -Einstellungen. Passen Sie Parameter wie Motor, Chunkgröße, Stücke überlappen usw. an. Derzeit sind die unterstützten Motoren Chromadb und Tinecone
• Andere Einstellungen: Wählen Sie eingebettete oder externe LLM -Speicher ( REDIS ), Medienverzeichnis, Datenbankanmeldeinformationen usw.

Installation

pip install contextqa

Verwendung

On Installation ContextQA bietet ein CLI -Tool

contextqa init

Schauen Sie sich die verfügbaren Parameter an, indem Sie den folgenden Befehl ausführen

contextqa init --help

Beispiel

Führen Sie es aus

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

Überprüfen Sie es

Öffnen Sie Ihren Browser unter http: // localhost: 8080. Sie sehen den Initialisierungs -Stepper, der Sie durch die ersten Konfigurationen führt

Oder die Hauptansicht von Contextqa - wenn die anfängliche Konfiguration bereits festgelegt wurde

Richtlinie

Ausführliche Verwendungsanweisungen finden Sie in den Nutzungsrichtlinien.

Beitragen

Wir begrüßen Beiträge zu Contextqa ! Um loszulegen, finden Sie in unserer Datei mit beitragen. Ihr Feedback und Ihre Beiträge helfen uns, das Projekt zu verbessern und zu verbessern. Vielen Dank für Ihr Interesse am Beitrag!