Visão geral
Os agentes LLM são a nova ferramenta em todas as caixas de ferramentas da equipe de ponta. Assim como nos aplicativos em nuvem, o novo conjunto de desafios com o LLMS está permitindo que a organização se mova rapidamente, embora não seja compatível com os dados e as práticas recomendadas dos dados do cliente.
O projeto é composto de:
- Aplicação da Web de palha completa-para gerenciamento e painel.
- Shields Server - recebe interações LLM via telemetria aberta do VibraniumDome -SDK.
- OpenSearch - fornece análises de armazenamento e consulta para interações LLM recebidas pelo servidor Shields.
Veja o início de como correr tudo-em-um.
Vulnerabilidades em foco
- Injeções de prompt llm01
- Direto - também conhecido como "jailbreaking"
- Indireto
- Manipulação de saída insegura LLM02
- Modelo Denial of Service LLM04
- Divulgação de Informações Sensíveis LLM06
- Design de plug -in inseguro llm07
- Excesso de Agência LLM08
Principais recursos
O VibraniumDome é uma plataforma inovadora de código aberto inovador que capacita as equipes de segurança na era dos agentes LLM.
O LLM WAF de ponta a ponta para agentes, permitindo que as equipes de segurança Govenrance, Auditoria, controle de políticas sobre o uso de modelos de idiomas.
100% de código aberto
Aplicação completa de ponta a ponta, incluindo escudos, modelos, ferramentas de análise de big data, implantação de contêineres, gerenciamento de autenticação e painel de aplicativos da web, tudo é de código aberto, não apenas um SDK para um terminal de paywall. Sem impressões finas. Construído para equipes de segurança LLM
Nosso objetivo é ajudar os adotantes e empresas precoces a aproveitar o poder do LLMS, combinado com as melhores práticas de segurança da empresa corporativa. Estamos focados em desafios de segurança cibernética LLM! Proteção de dados primeiro
Seus dados sensíveis nunca deixam sua premissa Políticas de granulação fina
Controlado em tempo real pelos painéis de equipes de segurança ZERO LATINCE IMPACTO
Não intrusivo por design, então tudo é completamente assíncrono Blazing Fast Big Data Analytics
construído com os padrões de engenharia de ponta mais exigentes Configuração de uma linha, literalmente. Sim, tão simples!
Trabalhamos duro para que toda a magia aconteça externamente com o seu fluxo de trabalho do Applicaiton Critical Path VibraniumDome . init ( app_name = "your_agent_name_here" )
O design da cúpula de vibranium
Escudos de vibranium
Os escudos de vibranium são o núcleo da camada de defesas da cúpula de vibranium e são projetados para proteger agentes e recursos críticos das ameaças do LLM
Escudos de entrada
Escudos de saída
Dezenas de escudos e integrações em breve
O ecossistema de cúpula de vibranium está crescendo rapidamente, estamos trabalhando com pesquisadores de segurança, especialistas em domínio e procurando mais colaboradores de código para adicionar mais práticas e integrações do setor
Demonstração
Github.vibraniumdome.demo.mp4
Começando
Siga os detalhes da documentação aqui
Contribuindo
Agradecemos suas contribuições! ??? ? ➕? repositório de garfo, faça suas alterações e envie uma solicitação de tração! Mais detalhes podem ser encontrados aqui.
Licença
GNU Licença pública geral v3.0 ou mais tarde
Veja a licença para ver o texto completo.
Contato
Tem uma ideia para melhorar nosso projeto? Gostaríamos muito de ouvir e colaborar com você. Não hesite em nos alcançar! Basta abrir um problema e nós responderemos a você? ♀️? ♂️! Você pode ver detalhes aqui.
Planos futuros
- Modelos Fine Tuned treinados especificamente para detectar injeção imediata
- função chamando escudos
- implementação do WAF de saída de k8s para que possamos retirar até a única linha de código
- Detecção de modelo duplo mais injeção
- ALERANDO Framework
- Integração com seus aplicativos de segurança corporativa
Documentação
https://docs.vibraniumdome.com
