ContextQA

Chatear con sus datos aprovechando el poder de las bases de datos de LLMS y Vector

---

ContextQA es una utilidad moderna que proporciona una aplicación lista para usar LLM. Se construye sobre gigantes como Fastapi, Langchain y abrazando la cara.

Las características clave incluyen:

• Chat regular que respalda la expansión del conocimiento a través del acceso a Internet
• QA conversacional con fuentes relevantes
• Respuestas de transmisión
• Ingestión de fuentes de datos utilizadas en sesiones de control de calidad
• Gestión de fuentes de datos
• Configuración de LLM: Configurar parámetros como proveedor, modelo, temperatura, etc. Actualmente, los proveedores compatibles son OpenAI y Google
• Configuración de Vector DB. Ajuste los parámetros como el motor, el tamaño del trozo, la superposición del fragmento, etc. Actualmente, los motores compatibles son ChromAdB y Pinecone
• Otras configuraciones: elija la memoria LLM integrada o externa ( REDIS ), el directorio de medios, las credenciales de la base de datos, etc.

Instalación

pip install contextqa

Uso

En la instalación contextqa proporciona una herramienta CLI

contextqa init

Consulte los parámetros disponibles ejecutando el siguiente comando

contextqa init --help

Ejemplo

Ejecutar

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

Compruébalo

Abra su navegador en http: // localhost: 8080. Verá la inicialización paso a paso que lo guiará a través de las configuraciones iniciales

O la vista principal contextqa: si la configuración inicial ya se ha establecido

Pauta

Para obtener instrucciones de uso detalladas, consulte las pautas de uso.

Que contribuye

¡Agradecemos las contribuciones a contextqa ! Para comenzar, consulte nuestro archivo contribuyente. MD para obtener pautas sobre cómo contribuir. Sus comentarios y contribuciones nos ayudan a mejorar y mejorar el proyecto. ¡Gracias por su interés en contribuir!