miniAutoGen下載 - miniAutoGen源代碼下載

miniAutoGen

其他源碼

1.0.0

下載

Miniautogen：一個輕巧且靈活的庫，用於創建代理和多代理對話

Miniautogen徽標

關於微生物原

Miniautogen是一個創新的開源庫，為大型語言模型（LLMS）的下一代應用設計。側重於實現多代理對話，以其輕巧和靈活的結構而聞名。對於旨在探索和擴展對話式AI前沿的開發人員和研究人員來說，這是理想的選擇。

從Autogen汲取靈感，Miniautogen提供了一套全面的工具：

統一對話接口（ chat ）：促進了多代理對話的創建和管理。
協調機制（ chatadmin ）：確保代理的有效同步和管理。
可自定義的代理（ agent ）：根據特定需求為量身定制代理提供靈活性。
操作管道（ pipeline ）：自動化並簡化代理操作，增強可擴展性和維護。

結合LITELLM，Miniautogen已經與超過100個LLM集成了。使用基岩，Azure，Openai，Cohere，Anthropic，Ollama，Sagemaker，Huggingface，Replicate。

為什麼選擇微生物原？

多代理對話

複雜的互動：促進複雜的對話，涉及多種智能代理，每個對話都具有獨特的能力。

代理定制

量身定制的行為：適應劑來滿足特定的交互要求，增強對話的多功能性。

靈活性和模塊化

動態對話：形狀引人入勝和響應性對話，並提供自動干預和手動干預的規定。

有效的代理協調

協作目標：利用我們的框架來促進代理商之間的無縫協作實現共同目標。

最先進的LLM集成

高級AI功能：利用大型語言模型的力量來豐富對話，並具有智能和上下文感知的響應。

關鍵組件

代理人

動態參與者：每個代理都是一個自治實體，能夠具有復雜的相互作用和行為。

聊天

對話管理：處理小組聊天會議，保持狀態和上下文以保持連貫性和連續性。

查塔明

編排：協調聊天動態的核心，確保高效且和諧的代理協作。

管道

操作效率：簡化代理操作，啟用可擴展和可維護的系統體系結構。

LLM客戶

AI驅動的互動：整合了不同的LLM客戶端，為代理提供了複雜的語言處理工具。

管道組件

簡化開發：我們的模塊化設計使創建新的管道組件變得輕而易舉，從而使開發人員能夠量身定制其對話性數據處理和處理。這種靈活性允許將高級AI功能的無縫集成，包括LLM響應，用戶交互和錯綜複雜的決策過程，直接進入agent管道。

探索我們在此處提供的各種預製組件。

用法

安裝pip install miniautogen

與LLM聊天

 #Initializing LLM Clients

import os
os.environ["OPENAI_API_KEY"] = "your-openai-key" 
from miniautogen.llms.llm_client import LiteLLMClient
openai_client = LiteLLMClient(model='gpt-3.5-turbo-16k')

# Building the Chat Environment

from miniautogen.chat.chat import Chat
from miniautogen.agent.agent import Agent
from miniautogen.chat.chatadmin import ChatAdmin
from miniautogen.pipeline.pipeline import Pipeline
from miniautogen.pipeline.components.components import (
    UserResponseComponent, AgentReplyComponent, TerminateChatComponent,
    Jinja2SingleTemplateComponent, LLMResponseComponent, NextAgentSelectorComponent
)

# Define a Jinja2 template for formatting messages
template_str = """
[{"role": "system", "content": "{{ agent.role }}"}{% for message in messages %},
  {% if message.sender_id == agent.agent_id %}
    {"role": "assistant", "content": {{ message.message | tojson | safe }}}
  {% else %}
    {"role": "user", "content": {{ message.message | tojson | safe }}}
  {% endif %}
{% endfor %}]
"""

# Initialize Jinja2 component with the template
jinja_component = Jinja2SingleTemplateComponent()
jinja_component.set_template_str(template_str)

# Set up pipelines for different components
pipeline_user = Pipeline([UserResponseComponent()])
pipeline_jinja = Pipeline([jinja_component, LLMResponseComponent(litellm_client)])
pipeline_admin = Pipeline([NextAgentSelectorComponent(), AgentReplyComponent(), TerminateChatComponent()])

# Create the chat environment
chat = Chat()

# Define agents with JSON data
json_data = {'agent_id': 'Bruno', 'name': 'Bruno', 'role': 'user'}
agent1 = Agent.from_json(json_data)
agent1.pipeline = pipeline_user  # Assign the user pipeline to agent1

agent2 = Agent("dev", "Carlos", "Python Senior Developer")
agent2.pipeline = pipeline_jinja  # Assign the LLM pipeline to agent2

# Add agents to the chat
chat.add_agent(agent1)
chat.add_agent(agent2)

# Add test messages to the chat
json_messages = [{'sender_id': 'Bruno', 'message': 'It’s a test, don’t worry'}]
chat.add_messages(json_messages)

# Initialize and configure ChatAdmin
chat_admin = ChatAdmin("admin", "Admin", "admin_role", pipeline_admin, chat, 10)

#running the chat
chat_admin.run()