在幾分鐘之內運行並部署GPT-4動力聊天機器人!
將Chromadb用於其矢量店,並帶有下一個frontend。
為您的平台安裝Docker桌面。
克隆回購或下載郵政編碼
git clone [github https url]
首先運行npm install yarn -g以全球安裝紗線(如果還沒有)。
然後運行:
yarn install
安裝後,您現在應該查看node_modules文件夾。
.env文件.env.example複製到.env您的.env文件應該看起來像這樣: OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]
.env文件中。根據您的設置,您可能需要修改app/api/files/utilities.ts才能連接到右Chromadb實例。
在新的終端窗口中,在Docker容器中運行Chroma:
docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest
您可以使用npm run dev運行該應用程序來啟動本地開發環境,然後上傳一個或多個PDF文件進行聊天。上傳後,您將可以與模型聊天。
Terraform文件夾包含最初來自chromadb/examples腳本。要將您的Chromadb部署到GCP,請執行以下操作:
安裝GCP CLI,通過CLI登錄並創建一個新項目。注意項目ID。
安裝Terraform CLI。
使用您的項目ID變量更新terraform/exportapply.sh 。
(可選)如果您想能夠進入GCP實例,則會生成按鍵。
在您的終端中運行exportapply.sh 。
運行terraform output instance_public_ip 。請注意輸出IP,然後更新您的.env 。
運行terraform output chroma_auth_token 。記下您的身份驗證令,然後更新您的.env 。
(可選)GCP實例需要花費一些時間,因此您可以檢查狀態
% export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat
通常,請留意本倉庫的issues和discussions部分,以獲取解決方案。
一般錯誤
node -vConsole.log env變量並確保它們暴露。.env文件,其中包含您的有效(和工作)API鍵,環境和索引名稱。OpenAI中更改modelName ,請確保可以訪問適當模型的API。env文件將被Systems env變量覆蓋。process.env變量。 最初源自https://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/tree/feat/chroma