ContextQA

通過利用LLM和Vector數據庫的功能與您的數據聊天

---

ContextQA是一種現代實用程序，可提供現成的LLM驅動應用程序。它建在巨人之上，例如Fastapi，Langchain和Hugging Face。

關鍵功能包括：

• 定期通過互聯網訪問來支持知識擴展的聊天
• 與相關資源的對話質量質量檢查
• 流響應
• 攝入QA會話中使用的數據源
• 數據源管理
• LLM設置：配置參數，例如提供商，模型，溫度等。當前，受支持的提供商是OpenAI和Google
• 向量數據庫設置。調整引擎，塊尺寸，塊重疊等參數。當前，受支持的引擎是Chromadb和Pinecone
• 其他設置：選擇嵌入式或外部LLM內存（ REDIS ），媒體目錄，數據庫憑據等。

安裝

pip install contextqa

用法

在安裝上，ContextQA提供了一個CLI工具

contextqa init

通過運行以下命令查看可用參數

contextqa init --help

例子

運行它

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

檢查一下

在http：// localhost：8080打開您的瀏覽器。您將看到初始化步進，將指導您完成初始配置

或主contextQA視圖 - 如果已經設置了初始配置

指南

有關詳細的用法說明，請參閱使用指南。

貢獻

我們歡迎對ContextQa的貢獻！首先，請參閱我們的貢獻。 MD文件以獲取有關如何貢獻的準則。您的反饋和貢獻有助於我們改善和增強項目。感謝您對貢獻的興趣！