在几分钟之内运行并部署GPT-4动力聊天机器人!
将Chromadb用于其矢量店,并带有下一个frontend。
为您的平台安装Docker桌面。
克隆回购或下载邮政编码
git clone [github https url]
首先运行npm install yarn -g以全球安装纱线(如果还没有)。
然后运行:
yarn install
安装后,您现在应该查看node_modules文件夹。
.env文件.env.example复制到.env您的.env文件应该看起来像这样: OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]
.env文件中。根据您的设置,您可能需要修改app/api/files/utilities.ts才能连接到右Chromadb实例。
在新的终端窗口中,在Docker容器中运行Chroma:
docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest
您可以使用npm run dev运行该应用程序来启动本地开发环境,然后上传一个或多个PDF文件进行聊天。上传后,您将可以与模型聊天。
Terraform文件夹包含最初来自chromadb/examples脚本。要将您的Chromadb部署到GCP,请执行以下操作:
安装GCP CLI,通过CLI登录并创建一个新项目。注意项目ID。
安装Terraform CLI。
使用您的项目ID变量更新terraform/exportapply.sh 。
(可选)如果您想能够进入GCP实例,则会生成按键。
在您的终端中运行exportapply.sh 。
运行terraform output instance_public_ip 。请注意输出IP,然后更新您的.env 。
运行terraform output chroma_auth_token 。记下您的身份验证令,然后更新您的.env 。
(可选)GCP实例需要花费一些时间,因此您可以检查状态
% export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat
通常,请留意本仓库的issues和discussions部分,以获取解决方案。
一般错误
node -vConsole.log env变量并确保它们暴露。.env文件,其中包含您的有效(和工作)API键,环境和索引名称。OpenAI中更改modelName ,请确保可以访问适当模型的API。env文件将被Systems env变量覆盖。process.env变量。 最初源自https://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/tree/feat/chroma