multi agent llm

Méthodes multi-agents basées sur LLM

Bienvenue dans le référentiel multi-agents basé sur LLM! Ce référentiel fournit une implémentation allégée de techniques et de méthodes de pointe pour exploiter des modèles de grandes langues (LLM) avec des architectures multi-agents pour diverses tâches. Cela comprend des méthodes développées par Agnostiq Inc. ainsi que d'autres méthodes de pointe. Le référentiel est conçu pour être modulaire et facile à utiliser, permettant une expérimentation rapide et s'il vous plaît l'utiliser avec prudence à des fins de production.

Installation

pip install -U multi-agent-llm

Exemple rapide

 import os ; os . environ [ 'OPENAI_API_KEY' ] = "your_openai_api_key"

from multi_agent_llm import OpenAILLM , AIOT
from pydantic import BaseModel , Field

llm = OpenAILLM ( model_name = "gpt-4o-mini" ) # Currently we only have wrapper for OpenAI, but it can be easily extended to other LLMs

# Define the answer schema
class QueryAnswer ( BaseModel ):
    explanation : str = Field ( description = "Explanation of the answer" )
    answer : str = Field ( description = "Final Answer" )

# Initialize AIOT with the LLM and run a sample query
aiot = AIOT ( llm = llm , iterations = 2 , answer_schema = QueryAnswer )
result = aiot . run ( "How many R's are there in the word 'Strawberry'?" )

print ( result )

 Discussion Result
-----------------

How many R's are there in the word 'Strawberry'?

Thought Process:

Iteration 1:
IDA: Let's break down the word 'Strawberry'. First, count the letters in the word and then specifically look for the letter 'R'. Remember to pay attention to uppercase and lowercase letters, but focus primarily on the letter 'R'. How many instances of 'R' do you find?
LLMA:
{
  explanation: The word 'Strawberry' contains a total of three instances of the letter 'R'. This includes two uppercase 'R's and one lowercase 'r'. Therefore, when counting the letter 'R' in both forms, we find that there are 3 occurrences in total.
  answer: 3
}

Final Answer:
{
  explanation: The word 'Strawberry' contains a total of three instances of the letter 'R'. This includes two uppercase 'R's and one lowercase 'r'. Therefore, when counting the letter 'R' in both forms, we find that there are 3 occurrences in total.
  answer: 3
}

Méthodes implémentées

Méthode	Description
AIOT	L'itération autonome de la pensée (AIOT) adapte dynamiquement ses voies de raisonnement en fonction de l'état évolutif de la conversation sans générer de pensées exploratoires alternatives qui sont finalement rejetées. Exemple rapide
Giot	L'itération guidée de la pensée (Giot) oblige le LLM à continuer d'itérer pour un nombre prédéfini d'étapes, assurant une exploration approfondie des chemins de raisonnement. Exemple rapide

---

Ce référentiel contient également les résultats de l'itération de la pensée papier. Vous pouvez trouver les configurations expérimentales pertinentes, les ensembles de données et les résultats. Le dossier contient des résultats de diverses tâches. N'hésitez pas à explorer ces dossiers pour reproduire les expériences ou pour mieux comprendre comment les cadres AIOT et Giot fonctionnent dans la pratique.