英語| 中文

App-Controller是建立在大型語言模型(LLM)和代理商的創新API編排框架。它旨在使用LLMS的高級推理功能集成和同步任何應用程序(APP)提供的API。

上圖說明了應用程序控制器如何增強應用程序的交互性。具體而言,該圖形分為兩個部分:左半詳細介紹完成任務時傳統的查詢和執行過程,而右半則通過App-Controller的干預顯示流線的工作流程。在傳統的情況下,當用戶需要在應用程序中完成任務但不知道該怎麼做時,他們首先詢問LLM並收到答案,然後命令應用程序獲得結果並完成任務。相比之下,在介紹了應用程序控制器之後,用戶只需將自然語言的需求直接輸入到應用程序中即可獲得結果並完成任務。借助App-Controller的幫助,該應用程序諮詢LLM以獲取用戶意圖,並學習執行必要的命令,然後返回結果。
App-Controller的核心能力在於其高度自動化的API編排邏輯和用戶友好的數據交互模式,使開發人員更容易,更快地為其應用程序添加智能功能。它還帶有靈活的HTTP接口,可增強應用程序一起工作的方式。最後,應用程序控制器旨在為用戶和開發人員與應用程序進行交互的直接有效的方式,從而實現滿足各種需求的無縫體驗。
增強的可用性:允許用戶通過簡單的自然語言命令來控制您的應用程序,消除了學習複雜的接口或命令集的需求,並使服務或內容易於訪問。
簡單集成:開發人員只需要註冊其應用程序的API目錄,App-Controller將自動管理標識和編排,從而消除對複雜編碼的需求。
異步和並發處理:APP-Controller使用現代異步技術增強了對並發請求的支持,即使在具有多個用戶或任務的高負載條件下,也可以確保效率和快速響應。
強大的API交互:App-Controller提供了穩定且用戶友好的HTTP API接口,從而可以與應用程序無縫交互,同時確保數據傳輸的高效效率和安全性。
?多種大型語言模型:應用程序控制器與各種大型語言模型很好地集成,使開發人員可以根據其需求和上下文選擇最合適的模型,以最佳理解和自然語言處理。
綜合文檔:應用程序控制器提供廣泛的文檔,包括快速啟動指南,API參考,最佳實踐示例和常見問題解答,以幫助開發人員開始並充分利用框架。
?持續的任務流:任務工作流程可以持續存儲在數據庫中,促進對任務的監視和管理,並允許開發人員隨時檢查狀態和歷史記錄。
介紹智能的加速機制:使用高級緩存技術,App-Controller通過智能存儲經常要求的結果來優化性能和響應時間,從而減少了對外部模型的調用數量(即將推出)。
?令牌優化:App-Controller的優化算法智能評估消息實用程序,減少令牌使用情況並削減與API呼叫相關的成本(即將推出)。
我們開發了一個Visual Studio代碼插件SmartVScode,該插件允許用戶通過自然語言操作各種VS代碼功能。以下是其特徵的一些證明:
下圖說明了使用App-Controller框架將智能引入應用程序的過程,詳細說明了應用程序開發人員需要執行的任務以及App-Controller獨立協調API調用以滿足用戶說明的過程。

啟動App-Controller後,該應用將用戶輸入轉發到App-Controller。 App-Controller集成了用戶輸入和可用API信息,與LLM進行交互以選擇適當的API執行並確定任務狀態。迭代地,該應用程序執行選定的API並將執行結果返回到App-controller。應用程序控制器繼續與LLM進行交互以做出下一個決定。當任務完成或失敗後,管道將終止,結果將返回給用戶。
完成這些步驟後,該應用程序可以與用戶實現智能交互。
文檔提供了有關如何將應用程序控制器集成到應用程序中的全面信息。您可以參考這些文檔,以改善應用程序控制器的經驗。
App-Controller以Apache許可證2.0發布。
加入我們,構建應用程序控制器!請參閱我們的貢獻指南以獲取更多詳細信息