sveltekit ai chatbot

Sveltekit AI Chatbot

Шаблон приложения для AI с открытым исходным кодом, построенный с Sveltekit, Vercel AI SDK, OpenAI и Vercel KV.

Особенности · Поставщики моделей · развернуть собственное · работать локально · авторы

Это неофициальный порт стройкит-лабс/ай-чатбот.

Поддержка разработки

Если вы найдете этот шаблон полезным, пожалуйста, рассмотрите возможность поддержки меня через спонсорство GitHub или KO-Fi, чтобы помочь с его развитием.

Функции

• СВЕЛТЕКИТ
• Vercel AI SDK для потокового чата пользовательский интерфейс
• Поддержка OpenAI (по умолчанию), антропной, Huggingface или Custom Models Chat и/или Langchain
• Edge Runtime Reade
• SHADCN/UI и SHADCN-SVELTE
  • Стиль с Tailwind CSS
  • Radix Svelte и стройный пользовательский интерфейс без головы примитивы компонентов
  • Иконки из иконфосфоров
• История чата, ограничение тарифов и хранение сеансов с Vercel KV (?
• Auth.js для аутентификации

Поставщики моделей

Этот шаблон поставляется с OpenAI gpt-3.5-turbo в качестве дефолта. Тем не менее, благодаря Vercel AI SDK, вы можете переключить поставщиков LLM на антропический, обнимающий лицо или использовать Langchain с несколькими строками кода.

Развернуть свое

Вы можете развернуть свою собственную версию следующего. JS AI Chatbot в Vercel с одним кликом:

Создание экземпляра базы данных KV

Следуйте шагам, изложенным в руководстве быстрого начала, предоставленного Vercel. Это руководство поможет вам в создании и настройке экземпляра базы данных KV на Vercel, что позволит вашему приложению взаимодействовать с ним.

Не забудьте обновить переменные среды ( KV_URL , KV_REST_API_URL , KV_REST_API_TOKEN , KV_REST_API_READ_ONLY_TOKEN ) в файле .env с соответствующими учетными данными, предоставленными во время настройки базы данных KV.

Бег на местном уровне

Вам нужно будет использовать переменные среды, определенные в .env.example для запуска heall.js at chatbot. Для этого рекомендуется использовать переменные среды Vercel, но файл .env - это все, что необходимо.

Примечание. Вы не должны совершать свой файл .env , иначе он будет разоблачить секреты, которые позволят другим контролировать доступ к вашим учетным записям OpenAI и поставщика подлинности.

1. Установить CLI Vercel: npm i -g vercel
2. Свяжите локальный экземпляр с учетными записями Vercel и GitHub (создает каталог .vercel ): vercel link
3. Загрузите переменные среды: vercel env pull

npm install

npm run dev
# or start the server and open the app in a new browser tab
npm run dev -- --open

Ваш шаблон приложения теперь должен работать на Localhost: 5173.

Авторы

Этот шаблон в значительной степени основан на версии Next.js, с вкладом из:

• Цзянь Юань Ли (@jyuan)