langserve assistant ui

Langserve-assistant-ui

Ein Demonstrationsprojekt, das Langserve, Langgraph und Fastapi kombiniert, um einen AI -Agenten mit einer modernen Benutzeroberfläche zu schaffen. Das Projekt verwendet Assistant-UI und Next.js Vercel AI SDK für eine nahtlose Chat-Schnittstelle.

Überblick

Dieses Projekt zeigt:

• Ein Langgraph -Agent, der auf einem Fastapi -Server mit Langserve ausgeführt wird
• Echtzeit-Antwort-Streaming an die Frontend
• Eine moderne Chat-Benutzeroberfläche, die mit Assistant-UI und Next.js erstellt wurde
• Zeigen, wie externe Tools und APIs integriert werden können

Voraussetzungen

• Python 3.11
• Node.js v20.18.0
• NPM V10.9.2
• Garn v1.22.22

Projektstruktur

 langserve-assistant-ui/
├── backend/         # FastAPI + LangServe server
└── frontend/        # Next.js + assistant-ui client

Setup -Anweisungen

Umgebungsvariablen einrichten

Gehen Sie zu ./backend und erstellen Sie .env -Datei. Folgen Sie dem Beispiel in .env.example .

Backend -Setup

Das Backend wird mit der Langchain CLI erstellt und verwendet Langgraphs create_react_agent für die Erstellung von Agenten.

 cd backend
poetry install
poetry run python -m app.server

Frontend -Setup

Das Frontend wird mit dem Assistant-UI-CLI-Tool erzeugt und implementiert Usechat Hook von Vercel AI SDK mit der Thread-Komponente von Assistant-UI.

 cd frontend
yarn install
yarn dev

Funktionen und Beispiele

Direkte Tool -Interaktion

Sie können Tools direkt mit einfachen Eingabeaufforderungen abfragen:

 Example: "What is the stock price of Apple?"

Agentenbasierte Interaktionen

Der Agent kann komplexere Abfragen bearbeiten, die mehrere Schritte erfordern:

 Example: "What is the weather in San Francisco?"

Technische Details

• Backend : Fastapi + LangServe für API -Endpunkte und Agent -Hosting
• Frontend : Next.js + Vercel AI SDK für Streaming -Antworten
• UI-Komponenten : Assistant-UI für Chat-Schnittstellenkomponenten
• Agent Framework : Langgraph für Agent Orchestration

Beitragen

Fühlen Sie sich frei, Probleme zu öffnen oder Pull -Anfragen einzureichen, wenn Sie Vorschläge für Verbesserungen haben.