ContextQA

LLMSおよびベクトルデータベースのパワーを活用してデータとチャット

---

ContextQAは、すぐに使用できるLLM搭載アプリケーションを提供する最新のユーティリティです。 Fastapi、Langchain、Hugging Faceなどの巨人の上に構築されています。

主な機能は次のとおりです。

• インターネットアクセスによる知識の拡張をサポートする定期的なチャット
• 関連するソースを使用した会話QA
• ストリーミング応答
• QAセッションで使用されるデータソースの摂取
• データソース管理
• LLM設定：プロバイダー、モデル、温度などのパラメーターを構成しています。現在、サポートされているプロバイダーはOpenaiとGoogleです
• ベクトルDB設定。エンジン、チャンクサイズ、チャンクオーバーラップなどのパラメーターを調整します。現在、サポートされているエンジンはChromadbとPineconeです
• その他の設定：組み込みまたは外部LLMメモリ（ REDIS ）、メディアディレクトリ、データベース資格情報などを選択します。

インストール

pip install contextqa

使用法

インストール時にContextQAはCLIツールを提供します

contextqa init

次のコマンドを実行して、利用可能なパラメーターをチェックしてください

contextqa init --help

例

それを実行します

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

それを確認してください

http：// localhost：8080でブラウザを開きます。初期構成をガイドする初期化ステッパーが表示されます

またはメインコンテキストqaビュー - 初期構成が既に設定されている場合

ガイドライン

詳細な使用手順については、使用ガイドラインを参照してください。

貢献

ContextQAへの貢献を歓迎します！開始するには、貢献方法に関するガイドラインについては、converting.mdファイルを参照してください。あなたのフィードバックと貢献は、プロジェクトの改善と強化に役立ちます。貢献してくれてありがとう！