langserve assistant ui

Langserve-Assistant-Ui

Демонстрационный проект, который сочетает в себе Langserve, Langgraph и Fastapi для создания агента ИИ с современным пользовательским интерфейсом. Проект использует Assistant-UI и Next.js Vercel AI SDK для бесшовного интерфейса чата.

Обзор

Этот проект демонстрирует:

• Агент Langgraph, работающий на сервере FastAPI, с использованием LangServe
• Ответ в режиме реального времени на фронт
• Современный пользовательский интерфейс чата, построенный с Assistant-UI и Next.js
• Продемонстрировать, как интегрировать внешние инструменты и API

Предварительные условия

• Python 3.11
• Node.js V20.18.0
• NPM V10.9.2
• Пряжа V1.22.22

Структура проекта

 langserve-assistant-ui/
├── backend/         # FastAPI + LangServe server
└── frontend/        # Next.js + assistant-ui client

Инструкции по настройке

Настройка переменных среды

Перейдите в ./backend и создайте .env -файл. Следуйте примеру в .env.example .

Настройка бэкэнд

Бэкэнд построен с использованием CLI Langchain и использует langgraph's create_react_agent для создания агента.

 cd backend
poetry install
poetry run python -m app.server

Настройка фронта

Фронт генерируется с использованием инструмента Assistant-UI CLI и реализует UseChat Hook Vercel AI SDK с помощью компонента потока Assistant-UI.

 cd frontend
yarn install
yarn dev

Особенности и примеры

Прямое взаимодействие инструмента

Вы можете запросить инструменты напрямую, используя простые подсказки:

 Example: "What is the stock price of Apple?"

Агентские взаимодействия

Агент может обрабатывать более сложные запросы, требующие нескольких шагов:

 Example: "What is the weather in San Francisco?"

Технические детали

• Бэкэнд : Fastapi + Langserve для конечных точек API и хостинга агента
• Frontend : Next.js + Vercel AI SDK для потоковых ответов
• Компоненты пользовательского интерфейса : помощник-UI для компонентов интерфейса чата
• Агентная структура : Langgraph для оркестровки агента

Внося

Не стесняйтесь открывать проблемы или отправлять запросы на привлечение, если у вас есть предложения по улучшению.