基本QDRART-UPLOAD-search-示例
有关如何上传和搜索QDRANT矢量数据库的示例代码
如果您发现此代码有用,请考虑查看我的主要AI助手项目:https://github.com/libraryofcelsus/aetherius_ai_assistant
如果您想要更多这样的代码教程,请在GitHub和YouTube上关注我:https://www.youtube.com/@libraryofcelsus
(尚未启动频道,我有多个书面脚本,但仍在研究视频制作形式。订阅其发布!)
在文档格式中以:https://www.libraryofcelsus.com/research/public/code-tutorials/
窗口的安装
- 如果使用QDRANT云将其API密钥和URL复制到相应的.txt文件。
Qdrant云链接:https://qdrant.to/cloud
要使用本地QDRANT服务器,请首先安装Docker:https://www.docker.com/,请参阅:https://github.com/qdrant/qdrant/qdrant/qdrant/blob/master/master/quick_start.md
一旦运行本地QDRANT服务器,应由脚本自动检测到它。 - 安装git
- 安装Python 3.10.6,请确保将其添加到路径
- 打开git bash程序
- 运行git克隆: git克隆https://github.com/libraryofcelsus/basic-qdrant-upload-and-search-search-example
- 打开命令行,并导航到使用CD的项目安装文件夹
- 创建虚拟环境:Python -M Venv Venv
- 用:。 venv scripts 激活来激活虚拟环境
- 使用PIP Install -R要求安装要求。TXT
- 在.txt文件中编辑并设置用户名和聊天机器人名称
- 编辑并在.txt文件中设置主要提示和问候
- 对于Oobabooga:安装Oobabooga Web-UI。这可以通过在其github页面上找到的一键安装程序来完成:https://github.com/oobabooga/text-generation-webui。然后启动Web-UI并导航到“会话”选项卡,单击两个API框,然后单击“应用并重新启动”。现在导航到“型号”选项卡并输入:“ thebloke/llama-2-7b-chat-gptq”或“ thebloke/llama-2-13b-chat-gptq”。 (如果使用CPU使用GMML版本)下载了模型后,将模型加载程序更改为Exllama,并将GPU-Split参数设置为.5GB,则在您的GPU限制下。接下来,将max_seq_len设置为4096。
- 对于OpenAi:将OpenAi API键添加到Key_openai.txt
- 使用python script_name.py运行聊天机器人
*请注意,您需要运行。 venv scripts 每次退出命令行以重新激活虚拟环境时激活。
我的AI研究是自筹资金的,如果您觉得有用,请考虑支持我:)
接触
Discord:Libraryofcelsus->旧用户名样式:Celsus#0262
Mega Chat:https://mega.nz/c!Pmnmeizq
电子邮件:[email protected]