multi agent llm

Métodos de agentes múltiples basados ​​en LLM

¡Bienvenido al repositorio de múltiples agentes basado en LLM! Este repositorio proporciona una implementación delgada de técnicas y métodos de vanguardia para aprovechar grandes modelos de lenguaje (LLM) con arquitecturas de múltiples agentes para diversas tareas. Esto incluye métodos desarrollados por AgNostiq Inc., así como otros métodos de última generación. El repositorio está diseñado para ser modular y fácil de usar, lo que permite una experimentación rápida y úselo con precaución para fines de producción.

Instalación

pip install -U multi-agent-llm

Ejemplo rápido

 import os ; os . environ [ 'OPENAI_API_KEY' ] = "your_openai_api_key"

from multi_agent_llm import OpenAILLM , AIOT
from pydantic import BaseModel , Field

llm = OpenAILLM ( model_name = "gpt-4o-mini" ) # Currently we only have wrapper for OpenAI, but it can be easily extended to other LLMs

# Define the answer schema
class QueryAnswer ( BaseModel ):
    explanation : str = Field ( description = "Explanation of the answer" )
    answer : str = Field ( description = "Final Answer" )

# Initialize AIOT with the LLM and run a sample query
aiot = AIOT ( llm = llm , iterations = 2 , answer_schema = QueryAnswer )
result = aiot . run ( "How many R's are there in the word 'Strawberry'?" )

print ( result )

 Discussion Result
-----------------

How many R's are there in the word 'Strawberry'?

Thought Process:

Iteration 1:
IDA: Let's break down the word 'Strawberry'. First, count the letters in the word and then specifically look for the letter 'R'. Remember to pay attention to uppercase and lowercase letters, but focus primarily on the letter 'R'. How many instances of 'R' do you find?
LLMA:
{
  explanation: The word 'Strawberry' contains a total of three instances of the letter 'R'. This includes two uppercase 'R's and one lowercase 'r'. Therefore, when counting the letter 'R' in both forms, we find that there are 3 occurrences in total.
  answer: 3
}

Final Answer:
{
  explanation: The word 'Strawberry' contains a total of three instances of the letter 'R'. This includes two uppercase 'R's and one lowercase 'r'. Therefore, when counting the letter 'R' in both forms, we find that there are 3 occurrences in total.
  answer: 3
}

Métodos implementados

Método	Descripción
AIOT	La iteración autónoma del pensamiento (AIOT) adapta dinámicamente sus caminos de razonamiento basados ​​en el estado en evolución de la conversación sin generar pensamientos exploratorios alternativos que finalmente se descartan. Ejemplo rápido
Giojo	La iteración guiada del pensamiento (giot) obliga a la LLM a continuar iterando para un número predefinido de pasos, asegurando una exploración exhaustiva de las rutas de razonamiento. Ejemplo rápido

---

Este repositorio también contiene los resultados para la iteración en papel del pensamiento. Puede encontrar las configuraciones experimentales relevantes, los conjuntos de datos y los resultados. La carpeta contiene resultados de varias tareas. Siéntase libre de explorar estas carpetas para reproducir los experimentos o obtener una comprensión más profunda de cómo funcionan los marcos AIOT y Giot en la práctica.