agentkit

AgentKit: schnell qualitativ hochwertige Agenten -Apps aufbauen

AgentKit ist ein von BCG X entwickelter Starter-Kit, das von BCG X entwickelt wurde, um Agenten-Apps zu erstellen. Entwickler können AgentKit nutzen, um

• Experimentieren Sie schnell über Ihre eingeschränkte Agentenarchitektur mit einer schönen Benutzeroberfläche
• Erstellen Sie eine vollständige Stack-Chat-basierte Agent-App, die auf MVP der Produktionsstufe skalieren kann

Zu den wichtigsten Vorteilen des AgentKit -Toolkits gehören:

• Erstellen Sie schnell hochwertige Agenten -Apps : Erstellen Sie eine starke Demo in wenigen Stunden mit einem modularen, einfach zu konfigurierten Tech -Stack basierend auf Fastapi/NextJs und einer Bibliothek nützlicher Genai -Tools
• Flexible, reaktive UI/UX für Agenten entwickelt : React/NextJS-Chat-basierte UI, die leicht zu konfigurieren ist, mit Funktionen wie Streaming, Rendern von Tabellen/Visualisierungen/Code, Status von Agentenaktionen und mehr
• ? ️ Fokus auf Zuverlässigkeit : Einfach zu konfiguriertes Routing-Architektur gibt die Kontrolle über mögliche Pfade. Agent kann die Zuverlässigkeit erhöhen und es für Anwendungsfälle im realen Leben eignet
• ? Einrichten nach skalieren : skalieren nach mvp mit readatischer Warteschlangenverwaltung, Auth, Caching, Überwachung usw.

Agentkit_video.mp4

Tech Stack

Das Starter Pack basiert auf den neuesten Technologien für optimale Leistung, Sicherheit und Entwicklererfahrung.

• ? NEXTJS 14 mit Rückenwind und Daisyui
• Python 3.10 mit Fastapi, SQLModel und Pydantic 2.x.
• ? Langchain und Langsmith E2E -Konfiguration
• ? Authentifizierung: NextAuth integriert in Fastapi
• ? Sellerie und Redis für langlebige Aufgaben, Caching usw.
• ? Lokale Postgrads mit PGVector -Erweiterung
• ⬆️ Docker-Compose für einfache Bereitstellungen und DX
• ? Linie, Tests und Pre-Commit-Hooks vorkonfiguriert

HINWEIS: Dies ist ein Starter -Kit - Für Produktionsbereitstellungen empfehlen wir Sicherheitsfunktionen für Unternehmensqualität. Achten Sie insbesondere bei LLMs bei der Verwendung von LLMs bekannte Risiken wie schnelle Injektion (lesen Sie mehr).

QuickStart

Verwenden Sie für eine kurze Einrichtung von AgentKit die folgenden Schritte, in denen sowohl die Backend -App als auch die Frontend -App in einem Docker -Container ausgeführt werden. In der Dokumentation finden Sie aufwändige Setup -Anweisungen.

Voraussetzungen

• Docker: https://www.docker.com/get-started

Installationsschritte

1. Klonen Sie das Repository, das den Quellcode für die Backend- und Frontend -Apps enthält.

2. Kopieren Sie die frontend/.env.example -Datei im Frontend -Verzeichnis und ändern Sie den Namen in .env . Kopieren Sie auch die Datei .env.example im Stammverzeichnis des Repositorys und ändern Sie den Namen in .env .

   • Ändern Sie die OpenAI_API_KEY und Openai_organisation in Ihre eigene (NB OpenAI_ORGANISION sollte Ihre OpenAI -Organisations -ID sein).

3. Navigieren Sie im Terminal zum Stammverzeichnis des geklonten Repositorys. Erstellen und starten Sie die Docker -Container mit dem folgenden Befehl:

    docker-compose -f docker-compose.yml up -d
   

   Warten Sie, bis die Container bauen und beginnen können, was je nach System einige Minuten dauern kann. Sobald die Container in Betrieb sind, können Sie auf die Apps in Ihrem Browser unter http: // localhost zugreifen.

Chinook Music Database Demo

• Wenn Docker-Container ausgeführt werden, führen Sie docker-compose down --volumes aus
• Befolgen Sie die obigen Installationsanweisungen und tauschen Sie docker-compose.yml mit docker-compose-demo.yml aus, um die App auszuführen
• Probieren Sie die Eingabeaufforderung "Wie viele Künstler und Songs gibt es in der Datenbank?" AgentKit in Aktion zu sehen!

Schauen Sie sich nach dem Tutorial eine fortgeschrittenere Demo -Build an.

Richten Sie Ihre eigene App ein

• Konfigurieren Sie Ihren Agenten- und Tools -Link
• (Optional) Passen Sie die Benutzeroberfläche auf Ihren Anwendungsfall -Link an
• (Optional) Einrichten der Bewertung mit Langsmith Link

Dokumentation

Hier finden Sie die gehostete Dokumentation.

• Installationsanweisungen zum Ausführen von Frontend oder der gesamten App Outside Docker
• Schlüsselkonzepte
• Konfiguration der Agenten- und Tools
• UI -Konfiguration
• Optionale Funktionen
• Werkzeugbibliothek

Wie es funktioniert

Zuverlässigkeit

AgentKit versucht, die Zuverlässigkeitsprobleme von Agenten wie React-Agenten zu lösen, indem die potenziellen Routen, die der Agent vor konfigurierte Routen oder Aktionspläne beschränken kann, einschränken. Da für viele Anwendungsfälle die potenziellen Routen, die der Agent einnehmen kann, bekannt ist, können wir unser Expertise für menschliches Domain verwenden, um den Agenten in die richtige Richtung zu lenken und ihn in unerwartete Richtungen oder Kaninchenlöcher zu reduzieren. Dies wird erreicht, indem ein Metaagent mit Aktionsplänen kombiniert wird: eine Reihe von Tools, die linear und parallel ausgeführt werden, ähnlich einer Kette. Der Meta -Agent übernimmt die Benutzeraufforderung und gibt den am besten geeigneten Aktionsplan aus, um eine Antwort zu generieren. Hinweis: Die Implementierung mehrerer Metaagenten ist möglich, wodurch ein Baum möglicher Routen erzeugt werden.

Benutzererfahrung

Um die Benutzererfahrung zu optimieren, kann dem Benutzer die Zwischenausgabe jedes Schritts im Aktionsplan angezeigt werden. Betrachten Sie beispielsweise einen Aktionsplan, der aus 2 Toolsets besteht: [[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]] . Im ersten Aktionsschritt werden Informationen aus einer SQL -Datenbank und einer Vektordatenbank mit eingebetteten PDFs parallel abgerufen. Die abgerufenen Daten und die relevantesten PDF werden in die Benutzeroberfläche gestreamt, sobald der erste Aktionsschritt beendet ist. Im zweiten Aktionsschritt wird die Ausgabe von Schritt 1 an ein Tool übergeben, das eine Textübersicht erzeugt, und ein Tool, das eine JSX -Visualisierung aus den Daten erstellt, die an die Benutzeroberfläche gestreamt wird, um die endgültige Antwort zu erstellen.

Eine Übersicht über einen hohen Niveau des Routing -Flusses und der Verbindung der Benutzeroberfläche finden Sie im folgenden Diagramm:

Zusätzliche optionale Funktionen

• Feedback -Integration : Feedback zu generierten Antworten von Benutzern sammeln

• Benutzereinstellungen : Ermöglichen Sie den Benutzern, Standardeinstellungen in der App anzugeben, mit der Anforderungen für den Benutzer angepasst werden können

• Benutzerauthentifizierung : Aktivieren Sie NextAuth in Ihrer App, um Benutzer mit GitHub oder mit E -Mail/Passwort zu authentifizieren

Weitere Informationen finden Sie unter optionale Funktionsdokumentation.

Sterngeschichte

Unterstützung und Wartung

Das Projekt wurde von einer Kombination verschiedener Vorlagen gedreht. Eine großartige Inspiration ist Fastapi-Alembic-SQLModel-Async, die die Grundlagen für das Fastapi-Setup bildete. Bitte überprüfen Sie sie!

Vielen Dank an alle Mitwirkenden: @kaikun213 @drivian @ielmansouri @mastersplinter @tanmaygupta9 @Sofglide @harticode @edenbd @ben-howt @carelschwan @gustafvh @casper321 @modvinden1 @valerie-jzr @ispoljari @Ispoljari @Mari @Martintenex @martintenten

Bitte lesen Sie CONTRIBUTING.md , um weitere Informationen zum Beitrag zu erhalten. PRs sind willkommen ❤️

Lizenz

• Dieses Projekt ist unter den Bedingungen der MIT -Lizenz lizenziert