ai starter kit

AIスターターキット

完全にローカルで、PDFドキュメントを介した質問応答（QA）を実行するためのAIアプリを作成するための最小限のコードベース。

このプロジェクトは、Local-Ai-Stackに触発されています。ただし、スタックは完全にJavaScriptベースであり、Pythonベースのバックエンドが必要だったため、このプロジェクトを作成することにしました。

ai-starter-kit-demo_3.mp4

スタック

• ？推論：オラマ
• VectordB：QDRANT
• ？ LLMオーケストレーション：Langchain
• ？§アプリロジック：Fastapi

始める方法

1. このレポをクローンします：

git clone https://github.com/mallahyari/ai-starter-kit.git

2. バックエンド依存関係をインストールします：

 cd backend/app
pip install -r requirements.txt

3. フロントエンド依存関係をインストールします：

 cd frontend
npm install

4. QDRANT VECTORデータベースを起動します（Dockerが必要です）。他のオプション情報についてはこちらをご覧ください。

docker run -p 6333:6333 qdrant/qdrant

5. オラマの指示をインストールしてください

6. Fastapiサーバーを実行します（内側のbackendディレクトリから）：

python app/main.py

7. 新しい端末を開き、React Development Serverを起動します（内部frontendから）：

npm start

構成を変更します

埋め込みモデル、チャンクサイズ、チャンクオーバーラップなど、 .configファイルの構成を変更できます。 QDRANTクラウドを使用する予定がある場合は、独自の.envファイルを作成して、必要なAPIキーを設定できます。

追加のユースケース

現在のアプリはPDFファイルのみをサポートしていますが、テキストファイルなどの他のタイプのファイルを追加するのは非常に簡単です。また、ドキュメントユースケース上のQAに加えて、オープンエンドチャットを簡単に追加できます。

議論と貢献

コメントやフィードバックがある場合は、 Discussionsセクションを使用して新しいトピックを開くことをheしないでください。 LinkedInまたはTwitterを介して直接連絡することもできます