ContextQA

通过利用LLM和Vector数据库的功能与您的数据聊天

---

ContextQA是一种现代实用程序，可提供现成的LLM驱动应用程序。它建在巨人之上，例如Fastapi，Langchain和Hugging Face。

关键功能包括：

• 定期通过互联网访问来支持知识扩展的聊天
• 与相关资源的对话质量质量检查
• 流响应
• 摄入QA会话中使用的数据源
• 数据源管理
• LLM设置：配置参数，例如提供商，模型，温度等。当前，受支持的提供商是OpenAI和Google
• 向量数据库设置。调整引擎，块尺寸，块重叠等参数。当前，受支持的引擎是Chromadb和Pinecone
• 其他设置：选择嵌入式或外部LLM内存（ REDIS ），媒体目录，数据库凭据等。

安装

pip install contextqa

用法

在安装上，ContextQA提供了一个CLI工具

contextqa init

通过运行以下命令查看可用参数

contextqa init --help

例子

运行它

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

检查一下

在http：// localhost：8080打开您的浏览器。您将看到初始化步进，将指导您完成初始配置

或主contextQA视图 - 如果已经设置了初始配置

指南

有关详细的用法说明，请参阅使用指南。

贡献

我们欢迎对ContextQa的贡献！首先，请参阅我们的贡献。MD文件以获取有关如何贡献的准则。您的反馈和贡献有助于我们改善和增强项目。感谢您对贡献的兴趣！