app controller
1.0.0
Inglês | 中文
O App-Controller é uma estrutura inovadora de orquestração de API construída sobre grandes modelos de idiomas (LLMS) e agentes. O objetivo é integrar e sincronizar as APIs fornecidas por qualquer aplicativo (aplicativos) usando os recursos avançados de raciocínio do LLMS.
A imagem acima ilustra como o controlador de aplicativos aprimora a interatividade do aplicativo. Especificamente, o gráfico é dividido em duas partes: a metade esquerda detalha o processo tradicional de consulta e execução ao concluir tarefas, enquanto a metade direita exibe o fluxo de trabalho simplificado com a intervenção do controlador de aplicativos. Em um cenário tradicional, quando um usuário precisa realizar uma tarefa em um aplicativo, mas não sabe como fazê -lo, ele primeiro pede ao LLM e recebe uma resposta, depois comanda o aplicativo para obter o resultado e concluir a tarefa. Por outro lado, após a introdução do controlador de aplicativos, o usuário simplesmente insere seu requisito no idioma natural diretamente no aplicativo para obter o resultado e concluir a tarefa. Com a assistência do controlador de aplicativo, o aplicativo consulta o LLM para intenção do usuário e aprende os comandos necessários para executar, posteriormente retornando o resultado.
A principal competência do App-Controller está em sua lógica de orquestração de API altamente automatizada e padrões de interação de dados amigáveis, tornando mais fácil e rápido para os desenvolvedores adicionar recursos inteligentes a seus aplicativos. Ele também vem com uma interface HTTP flexível que aprimora a maneira como os aplicativos funcionam juntos. No final, o controlador de aplicativos pretende fornecer uma maneira direta e eficiente para usuários e desenvolvedores interagirem com os aplicativos, permitindo uma experiência perfeita que atenda a diversas necessidades.
Usabilidade aprimorada : permite que os usuários controlem seu aplicativo por meio de comandos simples de linguagem natural, eliminando a necessidade de aprender interfaces ou conjuntos de comandos complexos e tornar os serviços ou o conteúdo facilmente acessíveis.
Integração fácil : os desenvolvedores precisam apenas registrar o diretório da API do aplicativo e o controlador de aplicativos gerenciará automaticamente a identificação e a orquestração, negando a necessidade de codificação complexa.
Processamento assíncrono e simultâneo : o controlador de aplicativos aprimora seu suporte para solicitações simultâneas usando a moderna tecnologia assíncrona, garantindo eficiência e respostas rápidas, mesmo sob condições de alta carga com vários usuários ou tarefas.
Interações API robustas : o aplicador de aplicativos oferece uma interface API HTTP estável e fácil de usar, permitindo interações perfeitas com aplicativos, garantindo alta eficiência e segurança na transferência de dados.
? Multidão de grandes modelos de linguagem : o controlador de aplicativos se integra bem a vários modelos de idiomas grandes, permitindo que os desenvolvedores escolham o modelo mais adequado com base em suas necessidades e contextos para obter o melhor entendimento e processamento de linguagem natural.
Documentação abrangente : o controlador de aplicativos fornece documentação extensa, incluindo guias de início rápido, referências de API, exemplos de melhores práticas e perguntas frequentes, para ajudar os desenvolvedores a começar e utilizar completamente a estrutura.
? Fluxos de tarefas persistentes : os fluxos de trabalho da tarefa podem ser armazenados persistentemente em bancos de dados, facilitando o monitoramento e o gerenciamento de tarefas e permitindo que os desenvolvedores verifiquem o status e o histórico a qualquer momento.
? Aste mecanismo de cache inteligente : com tecnologia avançada de cache, o controlador de aplicativos otimiza os tempos de desempenho e resposta armazenando de forma inteligente resultados frequentemente solicitados, reduzindo o número de chamadas para modelos externos (em breve).
? Otimização do token : o algoritmo de otimização do controlador de aplicativo avalia de maneira inteligente o utilitário de mensagens, reduzindo o uso do token e reduzindo os custos associados às chamadas da API (em breve).
Desenvolvemos um plug -in de código do Visual Studio, SmartVScode, que permite aos usuários operar vários recursos de código VS através da linguagem natural. Abaixo estão algumas demonstrações de seus recursos:
A imagem a seguir ilustra o processo de introdução de inteligência em aplicativos usando a estrutura do controlador de aplicativos, detalhando as tarefas que os desenvolvedores de aplicativos precisam realizar e o processo pelo qual o controlador de aplicativo orquestra independentemente as chamadas da API para cumprir as instruções do usuário.
Depois de iniciar o controlador do aplicativo, o aplicativo encaminha a entrada do usuário para o controlador do aplicativo. O controlador do aplicativo integra informações de entrada do usuário e as informações disponíveis da API, interage com o LLM para selecionar a API apropriada para executar e determinar o status da tarefa. Iterativamente, o aplicativo executa a API selecionada e retorna o resultado da execução ao controlador do aplicativo. O controlador de aplicativos continua interagindo com o LLM para tomar a próxima decisão. O pipeline é encerrado quando a tarefa foi concluída ou falhou, e o resultado é retornado ao usuário.
Depois de concluir essas etapas, o aplicativo pode obter interação inteligente com os usuários.
A documentação fornece informações abrangentes sobre como integrar o controlador de aplicativos ao seu aplicativo. Você pode consultar esses documentos para uma experiência aprimorada com o controlador de aplicativos.
O App-Controller é liberado sob a licença Apache 2.0.
Junte-se a nós na construção do controlador de aplicativos! Por favor, veja nosso guia de contribuição para mais detalhes
