vibraniumdome

概述

LLM代理是每个尖端技术团队工具箱中的新工具。就像云应用程序一样，LLMS的新挑战集也使组织能够快速移动，同时又不在客户数据和安全性最佳实践上加入。

该项目由：

• 全栈网络应用程序 - 用于管理和仪表板。
• Shields服务器 - 通过VibraniumDome -SDK的开放式遥测接收LLM交互。
• OpenSearch-提供Shields服务器收到的LLM交互的存储和查询分析。

请参阅入门如何多合一运行。

重点漏洞

• 提示注射LLM01
  • 直接 - 也称为“越狱”
  • 间接
• 不安全的输出处理LLM02
• 拒绝服务LLM04
• 敏感信息披露LLM06
• 不安全插件设计LLM07
• 过多的代理LLM08

关键功能

VibraniumDome是一个尖端的创新开源平台，它赋予了LLM代理时代的安全团队。

全面吹来，端到端的LLM WAF供代理商使用，允许安全团队，审计，策略驱动对代理使用语言模型的控制。

100％开源

端到端全面吹式应用程序，包括盾牌，型号，大数据分析工具，容器部署，身份验证管理和Web应用程序仪表板，所有内容都是开源的，而不仅仅是付费墙端点的SDK。没有精美的印刷品。

为LLM安全团队建造

我们的目标是帮助早期的采用者和企业利用LLM的力量，再加上企业级安全最佳实践。我们专注于LLM网络安全挑战！

数据保护首先

您的敏感数据永远不会离开您的前提

细粒度的政策

由安全团队仪表板实时控制

零延迟影响

设计不侵入性，因此一切都是异步的

大量快速数据分析

以最苛刻的尖端工程标准建造

从字面上看一行设置。是的，那简单！

我们努力了

 VibraniumDome . init ( app_name = "your_agent_name_here" )

Vibranium Dome设计

Vibranium Shields

Vibranium Shields是防御力圆顶层的核心，它们旨在保护代理和关键资源免受LLM威胁

输入盾牌

• 及时注射变压器盾牌
• 模型拒绝服务盾牌
• 船长的盾牌
• 语义向量相似性盾牌
• REGEX输入屏蔽
• 及时的安全节制盾牌
• PII和感官信息披露盾牌
• URLS盾牌中没有IP
• 无形输入字符屏蔽
• 秘密及时检测盾
• 不良URLS盾牌

输出盾牌

• 金丝雀令牌披露盾牌
• 模型输出拒绝盾牌
• PII和感官信息披露盾牌
• 正则输出屏蔽
• 任意图像域URL盾牌
• 白色列表域URL盾牌
• 隐形输出字符屏蔽
• 语言检测盾
• 代码完成屏蔽
• 降价完成盾牌
• 秘密完成检测盾
• SQL完成护栏盾牌
• 功能呼叫护栏盾牌

即将推出数十个盾牌和整合

Vibranium Dome生态系统正在迅速增长，我们正在与安全研究人员，领域专家合作，并寻找更多的代码贡献者来添加更多行业最佳实践和集成

演示

github.vibraniumdome.demo.mp4

入门

在此处遵循文档详细信息

贡献

感谢您的贡献！ ??? ？‍➕？‍叉存储库，进行更改，然后提交拉动请求！可以在此处找到更多详细信息。

执照

GNU通用公共许可证v3.0或更高版本

请参阅许可证以查看全文。

接触

有一个想法来改善我们的项目吗？我们很想听听并与您合作。不要犹豫与我们联系！只需打开一个问题，我们会回应您？‍♀️？‍♂️！您可以在此处查看详细信息。

未来计划

• 经过专门训练以检测提示注射的微调模型
• 功能调用盾牌
• K8S出口WAF实施，因此我们甚至可以删除一行代码
• 双模型检测加注射
• 警报框架
• 与您的企业安全应用程序集成

文档

https://docs.vibraniumdome.com