Descripción general
Los agentes de LLM son la nueva herramienta en cada caja de herramientas de Tech Team de vanguardia. Al igual que con las aplicaciones en la nube, el nuevo conjunto de retiros con LLM está permitiendo que la organización se mueva rápidamente, sin que no compases los datos del cliente y las mejores prácticas de seguridad.
El proyecto está compuesto de:
- Aplicación web de pila completa: para administración y tablero.
- Shields Server: recibe interacciones LLM a través de la telemetría abierta del Vibraniumdome -SDK.
- OpenSearch: proporciona análisis de almacenamiento y consultas para interacciones LLM recibidas por el servidor Shields.
Vea comenzar cómo ejecutar todo en uno.
Vulnerabilidades en foco
- Inyecciones de inmediato LLM01
- Directo: también conocido como "Jailbreaking"
- Indirecto
- Manejo inseguro de salida LLM02
- Modelo de denegación de servicio LLM04
- Divulgación de información confidencial LLM06
- Design de complemento inseguro LLM07
- Agencia excesiva LLM08
Características clave
Vibraniumdome es una plataforma innovadora de código abierto innovadora que empodera a los equipos de seguridad en la era de los agentes de LLM.
LLM WAF completo, de extremo a extremo para agentes, lo que permite a los equipos de seguridad Govenrance, auditoría, control de políticas sobre el uso de los agentes de modelos de idiomas.
Corriente 100% abierta
Aplicación completa de final a final, incluidos escudos, modelos, herramientas de análisis de big data, implementación de contenedores, gestión de autenticación y panel de aplicaciones web, todo es de código abierto, no solo un SDK para un punto final de muro de pago. Sin impresiones pequeñas. Construido para equipos de seguridad de LLM
Nuestro objetivo es ayudar a los primeros usuarios y empresas a aprovechar el poder de los LLM, combinado con las mejores prácticas de seguridad de grado empresarial. ¡Estamos enfocados en LLM Cyber Security Challanges! Protección de datos primero
Sus datos confidenciales nunca dejan su premisa Políticas de grano fino
Controlado en tiempo real por los paneles de los equipos de seguridad Impacto de latencia cero
No intrusivo por diseño para que todo esté completamente asíncron. Ardiente análisis de big data
construido con los estándares de ingeniería de vanguardia más exigentes Configuración de una línea, literalmente. ¡Sí, eso simple!
Trabajamos duro para que toda la magia ocurra externamente a su aplicación en el flujo de trabajo de la ruta crítica VibraniumDome . init ( app_name = "your_agent_name_here" )
El diseño de vibranio domo
Escudos de vibranio
Los escudos de vibranio son el núcleo de la capa de defensas de vibranio domo, y están diseñados para proteger a los agentes y los recursos críticos de las amenazas de LLM
Escudos de entrada
Escudos de salida
Docenas de escudos e integraciones próximamente
El ecosistema de vibranium Dome está creciendo rápidamente, estamos trabajando con investigadores de seguridad, expertos en dominios y buscando más contribuyentes de código para agregar más prácticas e integraciones de la industria
Manifestación
Github.vibraniumdome.demo.mp4
Empezando
Siga los detalles de la documentación aquí
Que contribuye
¡Agradecemos sus contribuciones! ???? ? ➕? Se pueden encontrar más detalles aquí.
Licencia
GNU Licencia pública general v3.0 o posterior
Vea la licencia para ver el texto completo.
Contacto
¿Tienes una idea para mejorar nuestro proyecto? Nos encantaría escucharlo y colaborar contigo. ¡No dudes en comunicarse con nosotros! Solo abre un problema y te responderemos? ♀️? ️! Puedes ver detalles aquí.
Planes futuros
- Modelos ajustados de fino específicamente entrenados para detectar la inyección rápida
- FUNCIONES CALIR SHIELDS
- Implementación de WAF de salida de K8s para que podamos sacar incluso la línea única de código
- Detección de modelo dual más inyección
- Marco de alerta
- Integración con sus aplicaciones de seguridad empresarial
Documentación
https://docs.vibraniumdome.com
