app controller
1.0.0
Anglais | 中文
App-contrôleur est un cadre innovant d'orchestration API construit sur des modèles et des agents de grande langue (LLM). Il vise à intégrer et synchroniser les API fournies par toutes les applications (applications) en utilisant les capacités de raisonnement avancées des LLM.
L'image ci-dessus illustre comment l'application-contrôleur améliore l'interactivité de l'application. Plus précisément, le graphique est divisé en deux parties: la moitié gauche détaille le processus traditionnel d'enquête et d'exécution lors de l'exécution des tâches, tandis que la moitié droite affiche le flux de travail rationalisé avec l'intervention du contrôleur d'application. Dans un scénario traditionnel, lorsqu'un utilisateur doit accomplir une tâche dans une application mais ne sait pas comment le faire, il demande d'abord le LLM et reçoit une réponse, puis commandez l'application pour obtenir le résultat et terminer la tâche. En revanche, après avoir introduit l'application-contrôleur, l'utilisateur saisit simplement ses besoins en langage naturel directement dans l'application pour obtenir le résultat et terminer la tâche. Avec l'aide de l'application-contrôleur, l'application consulte le LLM pour l'intention de l'utilisateur et apprend les commandes nécessaires à exécuter, renvoyant par la suite le résultat.
La compétence principale de App Controller réside dans sa logique d'orchestration API hautement automatisée et ses modèles d'interaction de données conviviaux, ce qui rend plus facile pour les développeurs d'ajouter des fonctionnalités intelligentes à leurs applications. Il est également livré avec une interface HTTP flexible qui améliore la façon dont les applications fonctionnent ensemble. En fin de compte, App Controller vise à fournir un moyen simple et efficace pour les utilisateurs et les développeurs d'interagir avec les applications, permettant une expérience transparente qui répond aux besoins divers.
Une convivialité améliorée : permet aux utilisateurs de contrôler votre application via des commandes simples en langage naturel, en éliminant la nécessité d'apprendre des interfaces ou des ensembles de commandes complexes et rendre les services ou le contenu facilement accessibles.
Intégration facile : les développeurs doivent uniquement enregistrer le répertoire API de leur application, et App Controller gérera automatiquement l'identification et l'orchestration, annulant le besoin de codage complexe.
Traitement asynchrone et simultané : App-contrôleur améliore son support pour les demandes simultanées en utilisant la technologie asynchrone moderne, assurant l'efficacité et les réponses rapides même dans des conditions de haute charge avec plusieurs utilisateurs ou tâches.
Interactions API robustes : App Controller propose une interface API HTTP stable et conviviale, permettant des interactions transparentes avec les applications tout en garantissant une efficacité et une sécurité élevées dans le transfert de données.
? Multitude de modèles de grande langue : App-contrôleur de l'application s'intègre bien à divers modèles de langues importants, permettant aux développeurs de choisir le modèle le plus approprié en fonction de leurs besoins et de leurs contextes pour une compréhension optimale et un traitement du langage naturel.
Documentation complète : App Controller fournit une documentation approfondie, y compris des guides de démarrage rapide, des références d'API, des exemples de meilleures pratiques et des FAQ, pour aider les développeurs à démarrer et à utiliser pleinement le cadre.
? Les flux de tâches persistants : les flux de travail des tâches peuvent être stockés de manière persistante dans les bases de données, facilitant la surveillance et la gestion des tâches et permettant aux développeurs de vérifier l'état et l'historique à tout moment.
? ️ Mécanisme de mise en cache intelligent : avec une technologie de mise en cache avancée, le contrôleur d'application optimise les performances et les temps de réponse en stockant intelligemment les résultats fréquemment demandés, en réduisant le nombre d'appels vers des modèles externes (à venir bientôt).
? Optimisation des jetons : l'algorithme d'optimisation de l'application-contrôleur évalue intelligemment l'utilité des messages, la réduction de l'utilisation de jetons et la réduction des coûts associés aux appels d'API (à venir bientôt).
Nous avons développé un plugin de code Visual Studio, SmartVScode, qui permet aux utilisateurs de faire fonctionner diverses fonctionnalités de code vs via le langage naturel. Vous trouverez ci-dessous quelques démonstrations de ses caractéristiques:
L'image suivante illustre le processus d'introduction de l'intelligence dans les applications à l'aide du framework App-contrôleur, détaillant les tâches dont les développeurs d'applications ont besoin pour entreprendre et le processus par lequel le contrôleur App-contrôleur orchestre indépendamment les appels d'API pour répondre aux instructions de l'utilisateur.
Après avoir démarré App Controller, l'application transfère la saisie de l'utilisateur dans l'application-contrôleur. Le contrôleur d'application intègre l'entrée utilisateur et les informations de l'API disponibles, interagit avec le LLM pour sélectionner l'API appropriée à exécuter et déterminer l'état de la tâche. Itérativement, l'application exécute l'API sélectionnée et renvoie le résultat d'exécution au contrôleur d'application. Le contrôleur d'application continue d'interagir avec le LLM pour prendre la prochaine décision. Le pipeline est terminé lorsque la tâche est terminée ou a échoué, et le résultat est renvoyé à l'utilisateur.
Après avoir terminé ces étapes, l'application peut réaliser une interaction intelligente avec les utilisateurs.
La documentation fournit des informations complètes sur la façon d'intégrer l'application-contrôleur dans votre application. Vous pouvez vous référer à ces documents pour une expérience améliorée avec l'application-contrôleur.
App-contrôleur est publié sous la licence APache 2.0.
Rejoignez-nous pour créer un contrôleur d'application! Veuillez consulter notre guide de contribution pour plus de détails
