GPT-4搭載のチャットボットを数分で実行して展開します!
Next.js FrontEndを使用して、VectorStoreにChromAdbを使用します。
プラットフォーム用のDockerデスクトップをインストールします。
レポをクローンするか、zipをダウンロードします
git clone [github https url]
最初にnpm install yarn -gグローバルにYARNをインストールします(まだおかしい場合は)。
その後、実行:
yarn install
インストール後、 node_modulesフォルダーが表示されるようになりました。
.envファイルを設定します.env.example into .env your .envファイルは次のようになります。 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]
.envファイルに挿入します。セットアップに応じて、 app/api/files/utilities.tsを変更して、適切なChromadBインスタンスに接続する必要がある場合があります。
新しいターミナルウィンドウで、Dockerコンテナでクロマを実行します。
docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest
npm run devを使用してアプリを実行してローカルDEV環境を起動し、1つまたは多くのPDFファイルをアップロードしてチャットできます。アップロード後、モデルとチャットできます。
Terraformフォルダーには、もともとchromadb/examplesのスクリプトが含まれています。 ChromAdbをGCPに展開するには、次のように実行します。
GCP CLIをインストールし、CLI経由でログインし、新しいプロジェクトを作成します。プロジェクトIDに注意してください。
Terraform CLIをインストールします。
Project ID変数を使用してterraform/exportapply.shを更新します。
(オプション)GCPインスタンスにsshを使用できるようにしたい場合は、キーペアを生成します。
ターミナルでexportapply.sh実行します。
terraform output instance_public_ipを実行します。出力IPに注意し、 .envを更新します。
terraform output chroma_auth_tokenを実行します。認定トークンに注意し、 .envを更新します。
(オプション)GCPインスタンスが表示されるまでには時間がかかるので、ステータスを確認できます
% export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat
一般に、ソリューションについては、このリポジトリのissuesとdiscussionsセクションに注意してください。
一般的なエラー
node -vを実行しますConsole.log env変数を調整し、それらが公開されていることを確認します。.envファイルを作成したことを確認してください。OpenAIでmodelName変更する場合は、適切なモデルのAPIにアクセスできることを確認してください。envファイルはSystems env変数によって上書きされます。process.envにハードコーディングしてみてください。ENV変数まだ問題がある場合。 もともとhttps://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/feat/chromaからフォーク