langserve assistant ui

langserve-rassistant-ui

一個演示項目，將Langserve，Langgraph和Fastapi結合在一起，以使用現代UI創建AI代理。該項目使用Assistant-UI和Next.js Vercel AI SDK用於無縫聊天界面。

概述

該項目展示：

• 使用Langserve在FastApi服務器上運行的Langgraph代理
• 實時響應流到前端
• 使用助理-UI和Next.js構建的現代聊天UI
• 演示如何整合外部工具和API

先決條件

• Python 3.11
• Node.js v20.18.0
• NPM v10.9.2
• 紗線V1.22.22

項目結構

 langserve-assistant-ui/
├── backend/         # FastAPI + LangServe server
└── frontend/        # Next.js + assistant-ui client

設置說明

設置環境變量

轉到./backend並創建.env文件。按照.env.example中的示例。

後端設置

後端是使用Langchain CLI構建的，並利用Langgraph的create_react_agent進行代理創建。

 cd backend
poetry install
poetry run python -m app.server

前端設置

使用Assistant-UI CLI工俱生成前端，並使用Assistant-UI的線程組件實現Vercel AI SDK的USECHAT掛鉤。

 cd frontend
yarn install
yarn dev

功能和示例

直接工具交互

您可以使用簡單的提示直接查詢工具：

 Example: "What is the stock price of Apple?"

基於代理的互動

代理可以處理需要多個步驟的更複雜的查詢：

 Example: "What is the weather in San Francisco?"

技術細節

• 後端：API端點和代理託管的FastApi + Langserve
• 前端：Next.js + Vercel AI SDK用於流響應
• UI組件：用於聊天接口組件的助理-UI
• 代理框架：langgraph用於代理編排

貢獻

如果您有改進的建議，請隨意打開問題或提交拉請請求。