Aperçu
Les agents LLM sont le nouvel outil dans chaque boîte à outils Team Team de pointe. Tout comme avec les applications cloud, le nouvel ensemble de chalangs avec LLMS permet à l'organisation de se déplacer rapidement, tout en ne se comporant pas sur les données des clients et les meilleures pratiques de sécurité.
Le projet est composé de:
- Application Web complète - pour la gestion et le tableau de bord.
- Shields Server - Reçoit les interactions LLM via une télémétrie ouverte à partir du vibraniumdome-sdk.
- OpenSearch - fournit des analyses de stockage et de requête pour les interactions LLM reçues par le serveur Shields.
Voir pour commencer comment exécuter tout-en-un.
Vulnérabilités au point
- Injections rapides LLM01
- Direct - également connu sous le nom de "jailbreaking"
- Indirect
- Manipulation de sortie insécurité LLM02
- Modèle de déni de service LLM04
- Divulgation d'informations sensibles LLM06
- Conception de plugin insécurité LLM07
- Agence excessive LLM08
Caractéristiques clés
VibraniumDome est une plate-forme open source innovante de pointe qui permet aux équipes de sécurité à l'époque des agents LLM.
Full Blown, de bout en bout LLM WAF pour les agents, permettant aux équipes de sécurité GovenRance, audit, au contrôle des politiques sur l'utilisation des agents des modèles linguistiques.
100% open source
Application de bout en bout, y compris les boucliers, les modèles, les outils d'analyse des mégadonnées, le déploiement des conteneurs, la gestion de l'authentification et le tableau de bord de l'application Web, tout est open source, pas seulement un SDK pour un point final de paie. pas de beaux-tirages. Construit pour les équipes de sécurité LLM
Notre objectif est d'aider les premiers adoptants et les entreprises à exploiter la puissance des LLM, combinée aux meilleures pratiques de sécurité de la Grade Enterprise. Nous nous concentrons sur les chalangs de cybersécurité LLM! Protection des données d'abord
Vos données sensibles ne quittent jamais votre prémisse Politiques à grain fin
Contrôlé en temps réel par les tableaux de bord des équipes de sécurité Impact zéro latence
Non intrusif par conception, donc tout est complètement asynchrone Analyse de big data fast blazing
Construit avec les normes d'ingénierie de pointe les plus exigeantes Une configuration de ligne, littéralement. Oui, aussi simple!
Nous avons travaillé dur pour que toute la magie se passe à l'extérieur à votre flux de travail de chemin critique applicaiton VibraniumDome . init ( app_name = "your_agent_name_here" )
La conception du dôme vibranium
Boucliers de vibranium
Les boucliers de vibranium sont au cœur de la couche de défenses du dôme vibranium, et ils sont conçus pour protéger les agents et les ressources critiques contre les menaces LLM
Boucliers d'entrée
Boucliers de sortie
Des dizaines de boucliers et intégrations arrivent bientôt
L'écosystème du dôme de vibranium augmente rapidement, nous travaillons avec des chercheurs en sécurité, des experts du domaine et à la recherche de plus de contributeurs de code pour ajouter davantage de meilleures pratiques et intégrations de l'industrie
Démo
Github.vibraniumdome.demo.mp4
Commencer
Suivez les détails de la documentation ici
Contributif
Nous apprécierions vos contributions! ??? ? ➕? Référentiel de fourche, apporter vos modifications et soumettre une demande de traction! Plus de détails peuvent être trouvés ici.
Licence
Licence publique générale GNU V3.0 ou version ultérieure
Voir la licence pour voir le texte intégral.
Contact
Vous avez une idée pour améliorer notre projet? Nous aimerions l'entendre et collaborer avec vous. N'hésitez pas à nous contacter! Ouvrez simplement un problème et nous vous répondrons? ♀️? ️! Vous pouvez voir les détails ici.
Plans futurs
- Modèles à réglage fin spécifiquement formés pour détecter l'injection rapide
- fonction appelant les boucliers
- Implémentation K8S Egress WAF afin que nous puissions retirer même la ligne de code unique
- Double détection du modèle plus injection
- Framework d'alerte
- Intégration avec vos applications de sécurité d'entreprise
Documentation
https://docs.vibraniumdome.com
