langserve assistant ui

langserve-rassistant-ui

一个演示项目，将Langserve，Langgraph和Fastapi结合在一起，以使用现代UI创建AI代理。该项目使用Assistant-UI和Next.js Vercel AI SDK用于无缝聊天界面。

概述

该项目展示：

• 使用Langserve在FastApi服务器上运行的Langgraph代理
• 实时响应流到前端
• 使用助理-UI和Next.js构建的现代聊天UI
• 演示如何整合外部工具和API

先决条件

• Python 3.11
• Node.js v20.18.0
• NPM v10.9.2
• 纱线V1.22.22

项目结构

 langserve-assistant-ui/
├── backend/         # FastAPI + LangServe server
└── frontend/        # Next.js + assistant-ui client

设置说明

设置环境变量

转到./backend并创建.env文件。按照.env.example中的示例。

后端设置

后端是使用Langchain CLI构建的，并利用Langgraph的create_react_agent进行代理创建。

 cd backend
poetry install
poetry run python -m app.server

前端设置

使用Assistant-UI CLI工具生成前端，并使用Assistant-UI的线程组件实现Vercel AI SDK的USECHAT挂钩。

 cd frontend
yarn install
yarn dev

功能和示例

直接工具交互

您可以使用简单的提示直接查询工具：

 Example: "What is the stock price of Apple?"

基于代理的互动

代理可以处理需要多个步骤的更复杂的查询：

 Example: "What is the weather in San Francisco?"

技术细节

• 后端：API端点和代理托管的FastApi + Langserve
• 前端：Next.js + Vercel AI SDK用于流响应
• UI组件：用于聊天接口组件的助理-UI
• 代理框架：langgraph用于代理编排

贡献

如果您有改进的建议，请随意打开问题或提交拉请请求。