story chat v1

Веб -сайт Twitter

---

Fictionx Story Chat

AI Rag Chatbot для Fixx Stories.

Он оснащен индексом Llama, вместе AI, вместе внедряет и следующий.js. Он встраивает истории в story/data и хранит встроенные в story/cache в качестве векторной базы данных локально. Тогда это ролевая игра играет как персонаж истории и отвечает на вопросы пользователей.

Что такое llamaindex?

За кулисами LlamainDex обогащает вашу модель с помощью пользовательских источников данных посредством получения добычи (RAG).

Чрезмерно упрощенный, этот процесс обычно состоит из двух этапов:

• Стадия индексации. LmamainDex готовит базу знаний, принимая данные и преобразуя их в документы. Он анализирует метаданные из этих документов (текст, отношения и т. Д.) В узлы и создает запросы, которые можно отдать от этих кусков в базу знаний.

• Стадия запроса. Соответствующий контекст извлекается из базы знаний, чтобы помочь модели в ответе на запросы. Стадия запроса гарантирует, что модель может получить доступ к данным, не включенным в свои оригинальные учебные данные.

Источник: Streamlit

Начиная

Скопируйте свой файл .example.env в .env и замените вместе на TOGETHER_API_KEY . Укажите фиктивное значение openai_api_key в этом .env, чтобы убедиться, что оно работает (временный взлом)

Как

1. Установите зависимости.

npm install

2. Запустите приложение и отправьте URL -адреса своей истории на http://localhost:3200/api/generate .

npm run dev

3. Отправляйте сообщения в свой чат -бот на веб -странице или через API.

• Веб -страница: http://localhost:3200/
• API: http://localhost:3200/api/chat

Он поддерживает потоковой реакции или ответа JSON.