js agent

JS Agent: Construa agentes e aplicativos de IA com JS & TS

Aviso

O JS Agent era uma biblioteca inicial para testar idéias e não é mais desenvolvido ativamente. Confira a Modelfusion - uma biblioteca de IA mais geral para o TypeScript que incorpora meus aprendizados do JS Agent.

O JS Agent é uma estrutura composta e extensível para criar agentes de IA com JavaScript e TypeScript.

Embora a criação de um protótipo de agente seja fácil, aumentar sua confiabilidade e robustez é complexo e requer considerável experimentação. O JS Agent fornece blocos de construção e ferramentas robustos para ajudá-lo a desenvolver agentes sólidos mais rapidamente.

Documentação (JS-Agent.ai)

• Conceitos
• Tutorial
• API Docs

Exemplos

Pergunta da Wikipedia-Insedimento

Tutorial

Um agente que tem acesso a um mecanismo de pesquisa da Wikipedia e pode ler artigos da Wikipedia. Você pode usá -lo para responder a perguntas sobre o conteúdo da Wikipedia.

Recursos usados: gpt-3.5-turbo , ferramentas personalizadas (Pesquise Wikipedia, Artigo da Wikipedia Read Wikipedia), Gere a próxima etapa Loop, MAX Etapas Executar controlador

JavaScript/TypeScript Developer

Um agente de desenvolvedor automatizado que funciona em um contêiner do Docker. Ele pode ler arquivos, gravar arquivos e executar comandos. Você pode ajustá -lo para o seu projeto e usá -lo para documentar o código, escrever testes, atualizar testes e recursos, etc.

Recursos usados: gpt-4 , Execução de ferramentas no contêiner do docker, agente com etapas de configuração fixa, várias propriedades de execução do agente, gera o próximo loop de etapa, ferramentas (lida de arquivo, arquivo de gravação, execução, comando, pergunta), cálculo de custos após o agente executar

Babyagi

Implementação do agente JS de babyagi.

Recursos usados: HTTP Agent Server, Modelo de conclusão de texto ( text-davinci-003 ), Saída de console personalizada, Atualizar tarefas de planejamento Loop

PDF para tópico do Twitter

Pega um PDF e um tópico e cria um tópico do Twitter com todo o conteúdo do PDF relevante para o tópico.

Recursos usados: Composição da função (sem agente), carregamento em pdf, split-extract-rewrite

Dividir e incorporar texto

Divide um texto em pedaços e gera incorporações.

Recursos usados: chamadas de função direta (sem agente), texto dividido (GPT3-Tokenizer), gerar incorporação

Características

• Definição e execução do agente
  • Agente configurável Run Propriedades que podem ser acessadas por avisos
  • Observe o agente executa (para oferecer suporte à saída do console, UIS, servidores, execuções, webApps etc.)
  • Registre todas as chamadas LLM de uma corrida de agente
  • Calcule o custo das chamadas LLM e as execuções do agente
  • O agente de parada é executado quando certos critérios são atendidos, por exemplo, para limitar o número de etapas
  • Use vários modelos LLM diferentes em um agente
• Agente HTTP Server
  • As execuções do agente podem ser iniciadas, paradas e observadas via API HTTP
  • Pode hospedar vários agentes
• Modelos LLM e APIs suportados
  • Modelos de conclusão de texto OpenAI ( text-davinci-003 etc.)
  • Modelos de conclusão de bate-papo OpenAI ( gpt-4 , gpt-3.5-turbo )
  • Modelo de incorporação do OpenAI ( text-embedding-ada-002 )
• Ações e ferramentas
  • Leia e escreva arquivo
  • Execute o comando cli
  • Use o mecanismo de pesquisa programável
  • Extrair informações sobre o tópico da página da web
  • Peça a entrada do usuário
  • Escreva para a propriedade String
  • Ligue para Sub-agente (loop)
  • Separação opcional de agente/executor (por exemplo, execute o executor em um ambiente de caixa de areia, como um contêiner do Docker)
• Agente lops
  • Loop de planejamento de tarefas de atualização no estilo babyagi
  • Gerar loop de próxima etapa
• Modelos de prompt para chat e solicitações de texto
  • Modelos internos para início rápido
    • Prompt de ações disponíveis; Extrair instruções de informação; Passos recentes prompt, reescrever o prompt de texto
  • Funções de utilidade para combinar e converter prompts
• Funções de texto
  • Extrair informações (extrair e reescrever; extrair recursivamente)
  • Divisores: texto dividido em pedaços
    • Por personagem
    • Por token (usando o Tiktoken Tokenizer)
  • Ajudadores: Carregue, gerar
• Fontes de dados
  • Página da web como texto html
  • Arquivo como ArrayBuffer
• Conversores de dados
  • htmltotext
  • pdftotext
• Utils gerais
  • LLM CHAMADA VELIME

Princípios de design

• Digitado : forneça o máximo de digitação possível para apoiar a descoberta e garantir a segurança.
• Chamadas de função direta : Todas as funções do utilitário podem ser chamadas diretamente sem um agente ou criando funções compostas.
• Composível : as peças individuais devem ter uma boa separação de preocupações e ser fácil de combinar.
• Extensible : deve ser fácil para os usuários adicionarem suas próprias ferramentas, provedores, ações, etapas de agentes etc.
• Use programação funcional para composição : todos os objetos imutáveis ​​são montados usando programação funcional. A orientação de objetos é usada apenas para objetos que possuem um estado mutável (por exemplo, Step e AgentRun ).
• Apoie o refinamento progressivo das especificações do agente : as especificações do agente devem ser fáceis de escrever e cada bloco de construção deve fornecer bons padrões. Ao mesmo tempo, deve ser possível substituir facilmente os padrões por configurações, prompts, etc.
• Build for Production : o JS Agent terá suporte de primeira classe para o registro, associando chamadas LLM e rastreamento de custos com execuções de agentes, etc.

Instalação rápida

npm install js-agent

Veja os exemplos e a documentação para aprender a criar um agente.

Exemplo agente

 import * as $ from "js-agent" ;

const openai = $ . provider . openai ;

export async function runWikipediaAgent ( {
  wikipediaSearchKey ,
  wikipediaSearchCx ,
  openAiApiKey ,
  task ,
} : {
  openAiApiKey : string ;
  wikipediaSearchKey : string ;
  wikipediaSearchCx : string ;
  task : string ;
} ) {
  const searchWikipediaAction = $ . tool . programmableGoogleSearchEngineAction ( {
    id : "search-wikipedia" ,
    description :
      "Search wikipedia using a search term. Returns a list of pages." ,
    execute : $ . tool . executeProgrammableGoogleSearchEngineAction ( {
      key : wikipediaSearchKey ,
      cx : wikipediaSearchCx ,
    } ) ,
  } ) ;

  const readWikipediaArticleAction = $ . tool . extractInformationFromWebpage ( {
    id : "read-wikipedia-article" ,
    description :
      "Read a wikipedia article and summarize it considering the query." ,
    inputExample : {
      url : "https://en.wikipedia.org/wiki/Artificial_intelligence" ,
      topic : "{query that you are answering}" ,
    } ,
    execute : $ . tool . executeExtractInformationFromWebpage ( {
      extract : $ . text . extractRecursively . asExtractFunction ( {
        split : $ . text . splitRecursivelyAtToken . asSplitFunction ( {
          tokenizer : openai . tokenizer . forModel ( {
            model : "gpt-3.5-turbo" ,
          } ) ,
          maxChunkSize : 2048 , // needs to fit into a gpt-3.5-turbo prompt and leave room for the answer
        } ) ,
        extract : $ . text . generateText . asFunction ( {
          prompt : $ . prompt . extractChatPrompt ( ) ,
          model : openai . chatModel ( {
            apiKey : openAiApiKey ,
            model : "gpt-3.5-turbo" ,
          } ) ,
        } ) ,
      } ) ,
    } ) ,
  } ) ;

  return $ . runAgent < { task : string } > ( {
    properties : { task } ,
    agent : $ . step . generateNextStepLoop ( {
      actions : [ searchWikipediaAction , readWikipediaArticleAction ] ,
      actionFormat : $ . action . format . flexibleJson ( ) ,
      prompt : $ . prompt . concatChatPrompts (
        async ( { runState : { task } } ) => [
          {
            role : "system" ,
            content : `## ROLE
You are an knowledge worker that answers questions using Wikipedia content. You speak perfect JSON.

## CONSTRAINTS
All facts for your answer must be from Wikipedia articles that you have read.

## TASK
${ task } ` ,
          } ,
        ] ,
        $ . prompt . availableActionsChatPrompt ( ) ,
        $ . prompt . recentStepsChatPrompt ( { maxSteps : 6 } )
      ) ,
      model : openai . chatModel ( {
        apiKey : openAiApiKey ,
        model : "gpt-3.5-turbo" ,
      } ) ,
    } ) ,
    controller : $ . agent . controller . maxSteps ( 20 ) ,
    observer : $ . agent . observer . showRunInConsole ( { name : "Wikipedia Agent" } ) ,
  } ) ;
}