PyRIT

Ferramenta de identificação de risco Python para IA generativa (pirito)

A Ferramenta de Identificação de Risco Python para IA generativa (Pyrit) é uma estrutura de código aberto criado para capacitar profissionais e engenheiros de segurança para identificar proativamente os riscos em sistemas generativos de IA.

• Confira nossa documentação para obter mais informações sobre como usar, instalar ou contribuir com o Pyrit.
• Visite nosso servidor Discord para conversar com a equipe e a comunidade.

Marcas comerciais

Este projeto pode conter marcas comerciais ou logotipos para projetos, produtos ou serviços. O uso autorizado de marcas comerciais ou logotipos da Microsoft está sujeito e deve seguir as diretrizes de marca registrada e marca da Microsoft. O uso de marcas comerciais da Microsoft ou logotipos em versões modificadas deste projeto não deve causar confusão ou implicar o patrocínio da Microsoft. Qualquer uso de marcas comerciais ou logotipos de terceiros estão sujeitas às políticas de terceiros.

Citando pyrit

Se você usar o Pyrit em sua pesquisa, cite nosso artigo de pré -impressão da seguinte maneira:

 @misc{munoz2024pyritframeworksecurityrisk,
      title={PyRIT: A Framework for Security Risk Identification and Red Teaming in Generative AI Systems},
      author={Gary D. Lopez Munoz and Amanda J. Minnich and Roman Lutz and Richard Lundeen and Raja Sekhar Rao Dheekonda and Nina Chikanov and Bolor-Erdene Jagdagdorj and Martin Pouliot and Shiven Chawla and Whitney Maxwell and Blake Bullwinkel and Katherine Pratt and Joris de Gruyter and Charlotte Siska and Pete Bryan and Tori Westerhoff and Chang Kawaguchi and Christian Seifert and Ram Shankar Siva Kumar and Yonatan Zunger},
      year={2024},
      eprint={2410.02828},
      archivePrefix={arXiv},
      primaryClass={cs.CR},
      url={https://arxiv.org/abs/2410.02828},
}

Além disso, cite a própria ferramenta seguindo o arquivo CITATION.cff na raiz deste repositório.