story chat v1
1.0.0
ウェブサイトTwitter
FictionXストーリー用のAIラグチャットボット。
Llama Index、一緒にAI、一緒にEmbeddingsとNext.jsを搭載しています。 story/dataにストーリーを組み込み、埋め込みをstory/cacheに局所的に保存します。その後、ストーリーのキャラクターとしてロールプレイを行い、ユーザーの質問に答えます。
舞台裏では、LlamainDexは、検索拡張生成(RAG)を通じてカスタムデータソースでモデルを豊かにします。
過度に単純化されたこのプロセスは、一般に2つの段階で構成されています。
インデックス段階。 Llamaindexは、データを摂取してドキュメントに変換することにより、知識ベースを準備します。これらのドキュメント(テキスト、関係など)からメタデータをノードに解析し、これらのチャンクからクエリインデックスを作成します。
クエリステージ。関連するコンテキストは、クエリに応答するのを支援するために、知識ベースから取得されます。クエリステージにより、モデルは元のトレーニングデータに含まれていないデータにアクセスできるようにします。

出典:Streamlit
.example.envファイルを.envにコピーして、 TOGETHER_API_KEY独自のものに置き換えます。この.envでダミーopenai_api_key値を指定して、それが機能することを確認する(一時的なハック)
npm install
http://localhost:3200/api/generateに送信します。 npm run dev
http://localhost:3200/http://localhost:3200/api/chatストリーミング応答またはJSON応答をサポートします。