ai starter kit

AI入門套件

一個最小的代碼基礎，用於創建AI應用程序，以完全在本地對PDF文檔進行問答（QA）。

該項目的靈感來自Local-Ai-stack。但是，他們的堆棧完全基於JavaScript，我需要基於Python的後端，因此決定創建此項目。

AI-starter-kit-demo_3.mp4

堆

• ？推論：ollama
• vectordb：qdrant
• ？ LLM編排：Langchain
• ？ 應用邏輯：fastapi

如何開始

1. 克隆這個倉庫：

git clone https://github.com/mallahyari/ai-starter-kit.git

2. 安裝後端依賴項：

 cd backend/app
pip install -r requirements.txt

3. 安裝前端依賴性：

 cd frontend
npm install

4. 啟動QDRANT矢量數據庫（您需要Docker）。有關其他選項信息，請參見此處：

docker run -p 6333:6333 qdrant/qdrant

5. 安裝Ollama說明在這裡

6. 運行FastApi服務器（從內部backend目錄）：

python app/main.py

7. 打開一個新終端並啟動React開發服務器（從內部frontend ）：

npm start

更改配置

您可以在.config文件中更改配置，例如嵌入模型，塊大小和塊重疊。如果您打算使用QDRANT雲，則可以或可以創建自己的.env文件並設置必要的API鍵。

其他用例

儘管當前的應用僅支持PDF文件，但添加其他類型的文件（例如文本文件等）非常簡單。此外，您還可以在文檔用例上輕鬆添加開放式聊天。

討論和貢獻

如果您有任何評論或反饋，請隨時使用Discussions部分並打開一個新主題。您也可以通過LinkedIn或Twitter直接聯繫