agentkit

Agentekit: construir rapidamente aplicativos de agente de alta qualidade

O AgentKit é um kit de partida baseado em Langchain, desenvolvido pelo BCG X para criar aplicativos do agente. Desenvolvedores podem usar o Agentkit para

• Experimente rapidamente sua arquitetura de agente restrita com uma linda interface do usuário
• Crie um aplicativo de agente baseado em bate-papo que possa escalar para MVP de grau de produção

As principais vantagens do Kit do AgentKit incluem:

• Construa rapidamente aplicativos de agente de alta qualidade : construa uma demonstração forte em poucas horas usando uma pilha de tecnologia modular e fácil de configurar baseada em FASTAPI/NEXTJS e uma biblioteca de ferramentas Genai úteis
• Ui/UX flexível e reativo projetado para agentes : React/NextJs Bated UI baseada em bate-papo que é fácil de configurar, com recursos como streaming, renderização de tabelas/visualizações/código, status das ações do agente e mais
• ? Aste Foco na confiabilidade : fácil de configurar a arquitetura de roteamento fornece o controle de possíveis caminhos que o agente pode seguir, aumentando a confiabilidade e tornando-o adequado para casos de uso da vida real
• ? Configurado para escala : Configure para escalar para MVP com gerenciamento de filas pronto, autenticação, cache, monitoramento etc.

Agentkit_video.mp4

Pilha de tecnologia

O Starter Pack é baseado nas mais recentes tecnologias para o desempenho ideal, a segurança e a experiência do desenvolvedor.

• ? NextJs 14 com Tailwind e Daisyui
• Python 3.10 com FASTAPI, SQLModel e Pydantic 2.x.
• ? Langchain e Langsmith E2E Configuração
• ? Autenticação: Nextauth integrado ao FASTAPI
• ? Aipo e redis para tarefas de longa duração, cache etc.
• ? Postgres local com extensão pgvector
• ⬆️ Docker-Compose para implantações simples e DX
• ? Linhagem, testes e ganchos pré-comprometidos pré-configurados

NOTA: Este é um kit inicial - para implantações de produção, recomendamos a adição de funcionalidades de segurança de nível corporativo. Especialmente ao usar o LLMS, esteja ciente de riscos conhecidos, como injeção rápida (leia mais).

Investir rápido

Para uma configuração rápida do AgentKit, use as etapas abaixo, onde o aplicativo de back -end e o aplicativo front -end são executados dentro de um contêiner do docker. Instruções de configuração mais elaboradas podem ser encontradas na documentação.

Pré -requisitos

• Docker: https://www.docker.com/get-started

Etapas de instalação

1. Clone o repositório que contém o código -fonte para os aplicativos de back -end e front -end.

2. Copie o arquivo frontend/.env.example no diretório do front -end e altere o nome para .env . Além disso, copie o arquivo .env.example no diretório raiz do repositório e altere o nome para .env .

   • Altere o OpenAI_API_KEY e o OpenAI_organization para o seu próprio (NB OpenAi_organization deve ser o seu 'ID da organização' OpenAI)

3. No terminal, navegue até o diretório raiz do repositório clonado. Construa e inicie os contêineres do Docker com o seguinte comando:

    docker-compose -f docker-compose.yml up -d
   

   Aguarde que os contêineres construam e iniciem, o que pode levar alguns minutos, dependendo do seu sistema. Depois que os contêineres estão em funcionamento, você pode acessar os aplicativos no seu navegador em http: // localhost.

Demoção de banco de dados de música chinook

• Se os contêineres do Docker estiverem funcionando, execute docker-compose down --volumes
• Siga as instruções de instalação acima e swap docker-compose.yml com docker-compose-demo.yml para executar o aplicativo
• Experimente o aviso "Quantos artistas e músicas existem no banco de dados?" Para ver o Agentkit em ação!

Confira uma construção de demonstração mais avançada após o tutorial.

Configure seu próprio aplicativo

• Configure o link do seu agente e ferramentas
• (Opcional) Ajuste a interface do usuário ao seu link de caso de uso
• (Opcional) Configurar avaliação com o link Langsmith

Documentação

Encontre a documentação hospedada aqui.

• Instruções de instalação para executar front -end ou todo o aplicativo fora do Docker
• Conceitos -chave
• Configuração do agente e ferramentas
• Configuração da interface do usuário
• Recursos opcionais
• Biblioteca de ferramentas

Como funciona

Confiabilidade

O AgentKit tenta resolver a questão da confiabilidade de agentes, como agentes do React, restringindo as rotas potenciais que o agente pode levar para um conjunto pré-configurado de rotas ou planos de ação . Como para muitos casos de uso, as rotas potenciais que o agente pode seguir são conhecidas, podemos usar nossa experiência em domínio humano para orientar o agente na direção certa e reduzi -lo a direções inesperadas ou orifícios de coelho. Isso é conseguido combinando um meta -agente com planos de ação : um conjunto de ferramentas que são executadas linearmente e em paralelo, semelhantes a uma cadeia. O meta agente recebe o prompt do usuário e produz o plano de ação mais adequado para gerar uma resposta. Nota: É possível implementar vários agentes meta, gerando uma árvore de rotas possíveis.

Experiência do usuário

Para otimizar a experiência do usuário, a saída intermediária de cada etapa do plano de ação pode ser mostrada ao usuário. Por exemplo, considere um plano de ação que consiste em 2 conjuntos de ferramentas: [[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]] . Na primeira etapa de ação, as informações de um banco de dados SQL e um banco de dados vetoriais com PDFs incorporadas são recuperadas em paralelo. Os dados recuperados e o PDF mais relevante são transmitidos para a interface do usuário assim que a primeira etapa de ação terminar. Na segunda etapa de ação, a saída da etapa 1 é passada para uma ferramenta que gera um resumo de texto e uma ferramenta que cria uma visualização JSX dos dados, que é transmitida para a interface do usuário para criar a resposta final.

Para uma visão geral de alto nível do fluxo de roteamento e conexão da interface do usuário, veja abaixo o diagrama:

Recursos opcionais adicionais

• Integração de feedback : colete feedback sobre respostas geradas dos usuários

• Configurações do usuário : permita que os usuários especifiquem as configurações padrão no aplicativo que podem ser usadas para personalizar prompts para o usuário

• Autenticação do usuário : Ative Nextauth em seu aplicativo para autenticar usuários com github ou com email/senha

Consulte a documentação do recurso opcional para obter informações mais detalhadas.

História da estrela

Suporte e manutenção

O projeto girou de uma combinação de modelos diferentes. Uma ótima inspiração é o ASTAPAPI-ALEMBIC-SQLMODEL-ASYNC, que forneceu as fundações para a configuração do FASTAPI. Por favor, verifique -os!

Muito obrigado a todos os colaboradores: @kaikun213 @drivian @ielmansouri @mastersplinter @tanmaygupta9 @sofglide @harticode @edenbd @ben-howt @carelschw @gustafvh @casper321 @modvinden1 @valerrie-jzr

Por favor, leia CONTRIBUTING.md para obter mais detalhes sobre como contribuir. PRs são bem -vindos ❤️

Licença

• Este projeto está licenciado nos termos da licença do MIT