app controller
1.0.0
Inglés | 中文
App-Controller es un innovador marco de orquestación API basado en modelos de idiomas grandes (LLM) y agentes. Su objetivo es integrar y sincronizar las API proporcionadas por cualquier aplicación (APPS) utilizando las capacidades de razonamiento avanzado de LLM.
La imagen de arriba ilustra cómo el controlador de aplicaciones mejora la interactividad de la aplicación. Específicamente, el gráfico se divide en dos partes: la mitad izquierda detalla el proceso tradicional de consulta y ejecución al completar tareas, mientras que la mitad derecha muestra el flujo de trabajo optimizado con la intervención del controlador de aplicaciones. En un escenario tradicional, cuando un usuario necesita realizar una tarea en una aplicación, pero no sabe cómo hacerlo, primero le pide al LLM y recibe una respuesta, luego ordene la aplicación que obtenga el resultado y complete la tarea. Por el contrario, después de introducir el controlador de aplicaciones, el usuario simplemente ingresa su requisito en el lenguaje natural directamente en la aplicación para obtener el resultado y finalizar la tarea. Con la asistencia del controlador de aplicaciones, la aplicación consulta al LLM para la intención del usuario y aprende los comandos necesarios para ejecutar, devolviendo el resultado posteriormente.
La competencia central de App-Controller se encuentra en su lógica de orquestación API altamente automatizada y patrones de interacción de datos fáciles de usar, lo que hace que sea más fácil y rápido para los desarrolladores agregar características inteligentes a sus aplicaciones. También viene con una interfaz HTTP flexible que mejora la forma en que las aplicaciones funcionan juntas. Al final, el controlador de aplicaciones tiene como objetivo proporcionar una forma directa y eficiente para que los usuarios y desarrolladores interactúen con aplicaciones, permitiendo una experiencia perfecta que satisfaga las diversas necesidades.
Usabilidad mejorada : permite a los usuarios controlar su aplicación a través de comandos de lenguaje natural simples, eliminando la necesidad de aprender interfaces o conjuntos de comandos complejos y hacer que los servicios o contenido sean fácilmente accesibles.
Integración fácil : los desarrolladores solo necesitan registrar el directorio API de su aplicación, y App-Controller administrará automáticamente la identificación y la orquestación, negando la necesidad de una compleja codificación.
Procesamiento asincrónico y concurrente : App-Controller mejora su soporte para solicitudes concurrentes utilizando tecnología asíncrona moderna, asegurando la eficiencia y las respuestas rápidas incluso en condiciones de alta carga con múltiples usuarios o tareas.
Interacciones de API robustas : App-Controller ofrece una interfaz de API HTTP estable y fácil de usar, que permite interacciones perfectas con aplicaciones al tiempo que garantiza una alta eficiencia y seguridad en la transferencia de datos.
? Multitud de modelos de idiomas grandes : la aplicación-controlador se integra bien con varios modelos de idiomas grandes, lo que permite a los desarrolladores elegir el modelo más adecuado basado en sus necesidades y contextos para una comprensión óptima y un procesamiento de lenguaje natural.
Documentación integral : App-Controller proporciona una amplia documentación, que incluye guías de inicio rápidos, referencias de API, ejemplos de mejores prácticas y preguntas frecuentes, para ayudar a los desarrolladores a comenzar y utilizar completamente el marco.
? Flujos de tareas persistentes : los flujos de trabajo de tareas se pueden almacenar persistentemente en bases de datos, facilitando el monitoreo y la gestión de las tareas y permitiendo a los desarrolladores verificar el estado y el historial en cualquier momento.
" Mecanismo de almacenamiento de almacenamiento inteligente : con tecnología de almacenamiento en caché avanzado, la aplicación-controlador optimiza los tiempos de rendimiento y respuesta al almacenar de manera inteligente los resultados solicitados con frecuencia, reduciendo el número de llamadas a modelos externos (próximamente).
? Optimización del token : el algoritmo de optimización del controlador de aplicaciones evalúa de manera inteligente la utilidad de mensajes, reduce el uso del token y reduce los costos asociados con las llamadas de API (próximamente).
Desarrollamos un complemento de código Visual Studio, SmartVScode, que permite a los usuarios operar varias características de código VS a través del lenguaje natural. A continuación se muestran algunas demostraciones de sus características:
La siguiente imagen ilustra el proceso de introducción de inteligencia en aplicaciones utilizando el marco de controlador de aplicaciones, que detalla las tareas que los desarrolladores de aplicaciones deben realizar y el proceso mediante el cual el controlador de aplicaciones orquesta independientemente las llamadas API para cumplir con las instrucciones del usuario.
Después de iniciar la aplicación-controlador, la aplicación reenvía la entrada del usuario al controlador de aplicaciones. El controlador de aplicaciones integra la entrada del usuario y la información de API disponible, interactúa con el LLM para seleccionar la API apropiada para ejecutar y determinar el estado de la tarea. Iterativamente, la aplicación ejecuta la API seleccionada y devuelve el resultado de ejecución al controlador de la aplicación. El controlador de aplicaciones continúa interactuando con la LLM para tomar la próxima decisión. La tubería finaliza cuando la tarea se ha completado o falló, y el resultado se devuelve al usuario.
Después de completar estos pasos, la aplicación puede lograr una interacción inteligente con los usuarios.
La documentación proporciona información completa sobre cómo integrar el controlador de aplicaciones en su aplicación. Puede consultar estos documentos para obtener una experiencia mejorada con App-Controller.
App-Controller se libera bajo la licencia Apache 2.0.
¡Únase a nosotros en la construcción de aplicaciones de aplicaciones! Consulte nuestra guía de contribución para obtener más detalles
