agentkit

AgentKit: créez rapidement des applications d'agent de haute qualité

AgentKit est un kit de démarrage basé sur Langchain développé par BCG X pour créer des applications d'agent. Les développeurs peuvent utiliser AgentKit pour

• Expérimentez rapidement sur votre architecture d'agent contrainte avec une belle interface utilisateur
• Créez une application d'agent basée sur un chat complet qui peut évoluer vers le MVP de qualité de production

Les avantages clés de la boîte à outils AgentKit comprennent:

• Créez rapidement des applications d'agent de haute qualité : créez une démo forte en quelques heures en utilisant une pile technologique modulaire et facile à configurer en fonction de Fastapi / NextJS et d'une bibliothèque d'outils Genai utiles
• UI / UX réactif flexible conçu pour les agents : UI basé sur le chat React / NextJS qui est facile à configurer, avec des fonctionnalités telles que le streaming, le rendu de tables / visualisations / code, l'état des actions d'agent et plus
• ? ️ Focus sur la fiabilité : une architecture de routage facile à configurer donne au contrôle des chemins possibles que l'agent peut prendre, augmentant la fiabilité et le rendant adapté aux cas d'utilisation réels
• ? Configuration à l'échelle : configuré à l'échelle de MVP avec la gestion des files d'attente prête, l'authentification, la mise en cache, la surveillance, etc.

Agentkit_video.mp4

Pile technologique

Le Pack de démarrage est basé sur les dernières technologies pour les performances optimales, la sécurité et l'expérience des développeurs.

• ? Nextjs 14 avec le vent arrière et Daisyui
• Python 3.10 avec fastapi, sqlmodel et pydantique 2.x.
• ? Configuration Langchain et Langsmith E2E
• ? Authentification: NextAuth intégré à Fastapi
• ? Céleri et redis pour les tâches de longue durée, la mise en cache, etc.
• ? Postgres local avec extension PGVector
• ⬆️-compose docker pour les déploiements simples et dx
• ? Libelting, tests et crochets pré-comités préconfigurés

Remarque: Il s'agit d'un kit de démarrage - Pour les déploiements de production, nous vous recommandons d'ajouter des fonctionnalités de sécurité de qualité entreprise. Surtout lorsque vous utilisez des LLM, soyez conscient des risques connus comme l'injection rapide (en savoir plus).

Start

Pour une configuration rapide d'agentKit, utilisez les étapes ci-dessous, où l'application backend et l'application Frontend sont exécutées dans un conteneur Docker. Des instructions de configuration plus élaborées peuvent être trouvées dans la documentation.

Condition préalable

• Docker: https://www.docker.com/get-started

Étapes d'installation

1. Clone le référentiel contenant le code source des applications backend et frontend.

2. Copiez le fichier frontend/.env.example dans le répertoire Frontend et modifiez le nom en .env . Copiez également le fichier .env.example dans le répertoire racine du référentiel et modifiez le nom en .env .

   • Changez l'Openai_API_KEY et OpenAI_ORAGANISATION dans le vôtre (NB OpenAI_ORAGANISATION devrait être votre «ID d'organisation» OpenAI)

3. Dans le terminal, accédez au répertoire racine du référentiel cloné. Construisez et démarrez les conteneurs Docker avec la commande suivante:

    docker-compose -f docker-compose.yml up -d
   

   Attendez que les conteneurs se construisent et commencent, ce qui peut prendre quelques minutes en fonction de votre système. Une fois que les conteneurs sont opérationnels, vous pouvez accéder aux applications de votre navigateur sur http: // localhost.

Démo de la base de données de la musique chinook

• Si les conteneurs Docker sont en cours d'exécution, exécutez docker-compose down --volumes
• Suivez les instructions d'installation ci-dessus et échangez docker-compose.yml avec docker-compose-demo.yml pour exécuter l'application
• Essayez l'invite "Combien d'artistes et de chansons y a-t-il dans la base de données?" Pour voir Agentkit en action!

Découvrez une version de démonstration plus avancée après le tutoriel.

Configurez votre propre application

• Configurez votre agent et lien d'outils
• (Facultatif) Ajustez l'interface utilisateur à votre lien de cas d'utilisation
• (Facultatif) Configurer l'évaluation avec Langsmith Link

Documentation

Trouvez la documentation hébergée ici.

• Instructions d'installation pour le frontend en cours d'exécution ou une application entière à l'extérieur de Docker
• Concepts clés
• Configuration d'agent et d'outils
• Configuration de l'interface utilisateur
• Fonctionnalités facultatives
• Bibliothèque d'outils

Comment ça marche

Fiabilité

AgentKit tente de résoudre le problème de fiabilité d'agents tels que les agents React en contraignant les voies potentielles que l'agent peut emprunter à un ensemble de routes préconfiguré ou à des plans d'action . Étant donné que pour de nombreux cas d'utilisation, les voies potentielles que l'agent peut emprunter est connue, nous pouvons utiliser notre expertise du domaine humain pour diriger l'agent dans la bonne direction et le réduire dans des directions inattendues ou des trous de lapin. Ceci est réalisé en combinant un méta-agent avec des plans d'action : un ensemble d'outils qui sont exécutés linéairement et en parallèle, similaire à une chaîne. L'agent Meta prend l'invite de l'utilisateur et publie le plan d'action le plus adapté pour générer une réponse. Remarque: la mise en œuvre de plusieurs méta-agents est possible, générant un arbre de routes possibles.

Expérience utilisateur

Pour optimiser l'expérience utilisateur, la sortie intermédiaire de chaque étape du plan d'action peut être affichée à l'utilisateur. Par exemple, considérez un plan d'action composé de 2 outils: [[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]] . Dans la première étape d'action, les informations d'une base de données SQL et une base de données vectorielle avec des PDF intégrées sont récupérées en parallèle. Les données récupérées et le PDF les plus pertinents sont diffusés vers l'interface utilisateur dès que la première étape d'action se termine. Dans la deuxième étape d'action, la sortie de l'étape 1 est transmise à un outil qui génère un résumé de texte et un outil qui crée une visualisation JSX à partir des données, qui est diffusée vers l'interface utilisateur pour créer la réponse finale.

Pour un aperçu de haut niveau du flux de routage et de la connexion de l'interface utilisateur, veuillez consulter le diagramme ci-dessous:

Fonctionnalités facultatives supplémentaires

• Intégration des commentaires : collecter les commentaires sur les réponses générées des utilisateurs

• Paramètres utilisateur : permettez aux utilisateurs de spécifier les paramètres par défaut de l'application qui peuvent être utilisés pour personnaliser les invites pour l'utilisateur

• Authentification utilisateur : activez NextAuth sur votre application pour authentifier les utilisateurs avec GitHub ou avec un e-mail / mot de passe

Voir Documentation en fonctionnalité facultative pour des informations plus détaillées.

Histoire des étoiles

Soutien et maintenance

Le projet a tourné une combinaison de différents modèles. Une grande inspiration est Fastapi-Alembic-SqlModel-Async, qui a fourni les fondations de la configuration Fastapi. Veuillez les vérifier!

Super merci à tous les contributeurs: @ kaikun213 @drivian @ielmansouri @masterspinter @ tanmaygupta9 @sofglide @harticode @edenbd @ ben-howt @carelschw @gustafvh @ casper321 @ modvinden1 @ Valerie-jzr @ispoljari @martinthènext @rkdy

Veuillez lire CONTRIBUTING.md pour plus de détails sur la façon de contribuer. Les PR sont les bienvenus ❤️

Licence

• Ce projet est sous licence de la licence du MIT