agentkit

AgentKit：迅速建立高質量的代理應用程序

AgentKit是BCG X開發的基於Langchain的入門套件，用於構建代理應用程序。開發人員可以使用AgentKit進行

• 快速使用美麗的UI對您受約束的代理體系結構進行實驗
• 構建一個基於堆棧聊天的代理應用程序，該應用程序可以擴展到生產級MVP

代理商工具包的關鍵優勢包括：

• 快速構建高質量的代理應用：使用模塊化，易於配置的技術堆棧基於FastApi/NextJS和有用的Genai工具庫，在幾個小時內構建強大的演示
• 靈活的，反應性的UI/UX為代理設計：React/NextJS聊天UI，易於配置，具有流式傳輸，表/可視化/代碼的渲染，代理操作的狀態等功能
• ？關注可靠性：易於配置的路由體系結構可以控制代理可以採用的可能路徑，提高可靠性並適合於現實生活中的用例
• ？設置為規模：設置為縮放到MVP，並使用現成的隊列管理，auth，緩存，監視等。

AgentKit_video.mp4

技術堆棧

入門包裝基於最新技術，以實現最佳性能，安全性和開發人員體驗。

• ？ NextJS 14與尾風和雛菊
• Python 3.10與Fastapi，Sqlmodel和Pydantic 2.x。
• ？ Langchain和Langsmith E2E配置
• ？身份驗證：NextAuth與FastApi集成
• ？芹菜和重新用於長期運行的任務，緩存等。
• ？帶有PGVECTOR擴展的本地郵政
• ⬆️docker-compose用於簡單部署和DX
• ？預先配置的綿羊，測試和預先承諾

注意：這是一個入門套件 - 對於生產部署，我們建議添加企業級安全功能。特別是在使用LLMS時，請注意已知的風險，例如及時注入（閱讀更多）。

Quickstart

要快速設置AgentKit，請使用下面的步驟，該步驟均在Docker容器內運行，該步驟均在Docker容器中運行。可以在文檔中找到更多詳細的設置說明。

先決條件

• Docker：https：//www.docker.com/get-started

安裝步驟

1. 克隆包含後端和前端應用程序源代碼的存儲庫。

2. 在前端目錄中復制frontend/.env.example文件，然後將名稱更改為.env 。另外，在存儲庫的根目錄中復制.env.example文件，然後將名稱更改為.env 。

   • 將OpenAI_API_KEY和OpenAi_organization更改為您自己的（NB OpenAi_organization應該是您的OpenAi's組織ID'）

3. 在終端中，導航到克隆存儲庫的根目錄。使用以下命令構建並啟動Docker容器：

    docker-compose -f docker-compose.yml up -d
   

   等待容器構建和啟動，這可能需要幾分鐘的時間，具體取決於您的系統。容器啟動並運行後，您可以在http：// localhost中訪問瀏覽器中的應用程序。

奇努克音樂數據庫演示

• 如果碼頭容器正在運行，請運行docker-compose down --volumes
• 按照上面的安裝說明，然後將docker-compose.yml與docker-compose-demo.yml交換以運行該應用
• 嘗試提示“數據庫中有多少藝術家和歌曲？”看到AgentKit在行動中！

在教程之後查看更高級的演示構建。

設置自己的應用程序

• 配置您的代理和工具鏈接
• （可選）將UI調整到您的用例鏈接
• （可選）通過Langsmith鏈接設置評估

文件

在此處找到託管文檔。

• 運行前端或整個應用程序外部的安裝說明
• 關鍵概念
• 代理和工具配置
• UI配置
• 可選功能
• 工具庫

它如何工作

可靠性

AgentKit試圖通過限制代理可以採用的潛在路線來解決反應代理等代理的可靠性問題，以預先配置的一組途徑或行動計劃。由於在許多用例中，代理商可以採取的潛在路線已知，因此我們可以使用人類領域的專業知識來指導代理朝正確的方向引導，並將其減少到意外的方向或兔子孔中。這是通過將元代理與動作計劃相結合的：一組線性和並行執行的工具，類似於鏈條。 Meta代理接收用戶提示，並輸出最適合的操作計劃來生成答案。注意：實現多個元代理是可能的，生成一棵可能的路由樹。

用戶體驗

為了優化用戶體驗，可以向用戶顯示操作計劃中每個步驟的中介輸出。例如，考慮一個由2個工具組組成的操作計劃： [[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]] 。在第一個動作步驟中，並行檢索了來自SQL數據庫和帶有嵌入式PDF的向量數據庫的信息。第一動作步驟完成後，檢索到的數據和最相關的PDF將立即流到UI。在第二個操作步驟中，步驟1的輸出傳遞給一個工具，該工俱生成文本摘要和一個從數據中創建JSX可視化的工具，該數據將流傳輸到UI以創建最終答案。

有關路由流量和連接UI的高級概述，請參見下圖：

其他可選功能

• 反饋集成：收集用戶生成的答案的反饋

• 用戶設置：允許用戶在應用程序中指定默認設置，可用於自定義用戶提示

• 用戶身份驗證：在您的應用程序上啟用NextAuth，以使用GitHub或電子郵件/密碼對用戶進行身份驗證

有關更多詳細信息，請參見可選功能文檔。

星曆史

支持和維護

該項目旋轉了不同模板的組合。 FastApi-Alembic-Sqlmodel-Async是一個偉大的靈感，它為Fastapi設置提供了基礎。請檢查一下！

Great thanks to all the contributors: @kaikun213 @drivian @ielmansouri @mastersplinter @tanmaygupta9 @sofglide @harticode @edenbd @ben-howt @carelschw @gustafvh @casper321 @modvinden1 @valerie-jzr @ispoljari @martinthenext @rkdy

請閱讀CONTRIBUTING.md如何貢獻的更多詳細信息。歡迎PRS❤️

執照

• 該項目是根據MIT許可條款獲得許可的