英语| 中文

App-Controller是建立在大型语言模型(LLM)和代理商的创新API编排框架。它旨在使用LLMS的高级推理功能集成和同步任何应用程序(APP)提供的API。

上图说明了应用程序控制器如何增强应用程序的交互性。具体而言,该图形分为两个部分:左半详细介绍完成任务时传统的查询和执行过程,而右半则通过App-Controller的干预显示流线的工作流程。在传统的情况下,当用户需要在应用程序中完成任务但不知道该怎么做时,他们首先询问LLM并收到答案,然后命令应用程序获得结果并完成任务。相比之下,在介绍了应用程序控制器之后,用户只需将自然语言的需求直接输入到应用程序中即可获得结果并完成任务。借助App-Controller的帮助,该应用程序咨询LLM以获取用户意图,并学习执行必要的命令,然后返回结果。
App-Controller的核心能力在于其高度自动化的API编排逻辑和用户友好的数据交互模式,使开发人员更容易,更快地为其应用程序添加智能功能。它还带有灵活的HTTP接口,可增强应用程序一起工作的方式。最后,应用程序控制器旨在为用户和开发人员与应用程序进行交互的直接有效的方式,从而实现满足各种需求的无缝体验。
增强的可用性:允许用户通过简单的自然语言命令来控制您的应用程序,消除了学习复杂的接口或命令集的需求,并使服务或内容易于访问。
简单集成:开发人员只需要注册其应用程序的API目录,App-Controller将自动管理标识和编排,从而消除对复杂编码的需求。
异步和并发处理:APP-Controller使用现代异步技术增强了对并发请求的支持,即使在具有多个用户或任务的高负载条件下,也可以确保效率和快速响应。
强大的API交互:App-Controller提供了稳定且用户友好的HTTP API接口,从而可以与应用程序无缝交互,同时确保数据传输的高效效率和安全性。
?多种大型语言模型:应用程序控制器与各种大型语言模型很好地集成,使开发人员可以根据其需求和上下文选择最合适的模型,以最佳理解和自然语言处理。
综合文档:应用程序控制器提供广泛的文档,包括快速启动指南,API参考,最佳实践示例和常见问题解答,以帮助开发人员开始并充分利用框架。
?持续的任务流:任务工作流程可以持续存储在数据库中,促进对任务的监视和管理,并允许开发人员随时检查状态和历史记录。
介绍智能的加速机制:使用高级缓存技术,App-Controller通过智能存储经常要求的结果来优化性能和响应时间,从而减少了对外部模型的调用数量(即将推出)。
?令牌优化:App-Controller的优化算法智能评估消息实用程序,减少令牌使用情况并削减与API呼叫相关的成本(即将推出)。
我们开发了一个Visual Studio代码插件SmartVScode,该插件允许用户通过自然语言操作各种VS代码功能。以下是其特征的一些证明:
下图说明了使用App-Controller框架将智能引入应用程序的过程,详细说明了应用程序开发人员需要执行的任务以及App-Controller独立协调API调用以满足用户说明的过程。

启动App-Controller后,该应用将用户输入转发到App-Controller。 App-Controller集成了用户输入和可用API信息,与LLM进行交互以选择适当的API执行并确定任务状态。迭代地,该应用程序执行选定的API并将执行结果返回到App-controller。应用程序控制器继续与LLM进行交互以做出下一个决定。当任务完成或失败后,管道将终止,结果将返回给用户。
完成这些步骤后,该应用程序可以与用户实现智能交互。
文档提供了有关如何将应用程序控制器集成到应用程序中的全面信息。您可以参考这些文档,以改善应用程序控制器的经验。
App-Controller以Apache许可证2.0发布。
加入我们,构建应用程序控制器!请参阅我们的贡献指南以获取更多详细信息