基本QDRART-UPLOAD-search-示例
有關如何上傳和搜索QDRANT矢量數據庫的示例代碼
如果您發現此代碼有用,請考慮查看我的主要AI助手項目:https://github.com/libraryofcelsus/aetherius_ai_assistant
如果您想要更多這樣的代碼教程,請在GitHub和YouTube上關注我:https://www.youtube.com/@libraryofcelsus
(尚未啟動頻道,我有多個書面腳本,但仍在研究視頻製作形式。訂閱其發布!)
在文檔格式中以:https://www.libraryofcelsus.com/research/public/code-tutorials/
窗口的安裝
- 如果使用QDRANT雲將其API密鑰和URL複製到相應的.txt文件。
Qdrant雲鏈接:https://qdrant.to/cloud
要使用本地QDRANT服務器,請首先安裝Docker:https://www.docker.com/,請參閱:https://github.com/qdrant/qdrant/qdrant/qdrant/blob/master/master/quick_start.md
一旦運行本地QDRANT服務器,應由腳本自動檢測到它。 - 安裝git
- 安裝Python 3.10.6,請確保將其添加到路徑
- 打開git bash程序
- 運行git克隆: git克隆https://github.com/libraryofcelsus/basic-qdrant-upload-and-search-search-example
- 打開命令行,並導航到使用CD的項目安裝文件夾
- 創建虛擬環境:Python -M Venv Venv
- 用:。 venv scripts 激活來激活虛擬環境
- 使用PIP Install -R要求安裝要求。 TXT
- 在.txt文件中編輯並設置用戶名和聊天機器人名稱
- 編輯並在.txt文件中設置主要提示和問候
- 對於Oobabooga:安裝Oobabooga Web-UI。這可以通過在其github頁面上找到的一鍵安裝程序來完成:https://github.com/oobabooga/text-generation-webui。然後啟動Web-UI並導航到“會話”選項卡,單擊兩個API框,然後單擊“應用並重新啟動”。現在導航到“型號”選項卡並輸入:“ thebloke/llama-2-7b-chat-gptq”或“ thebloke/llama-2-13b-chat-gptq”。 (如果使用CPU使用GMML版本)下載了模型後,將模型加載程序更改為Exllama,並將GPU-Split參數設置為.5GB,則在您的GPU限制下。接下來,將max_seq_len設置為4096。
- 對於OpenAi:將OpenAi API鍵添加到Key_openai.txt
- 使用python script_name.py運行聊天機器人
*請注意,您需要運行。 venv scripts 每次退出命令行以重新激活虛擬環境時激活。
我的AI研究是自籌資金的,如果您覺得有用,請考慮支持我:)
接觸
Discord:Libraryofcelsus->舊用戶名樣式:Celsus#0262
Mega Chat:https://mega.nz/c! Pmnmeizq
電子郵件:[email protected]