PyRIT

Инструмент идентификации риска Python для генеративного ИИ (пирит)

Инструмент идентификации риска Python для генеративного AI (Pyrit) - это структура с открытым исходным кодом, созданная для того, чтобы расширить возможности специалистов и инженеров безопасности для активного выявления рисков в генеративных системах ИИ.

• Проверьте нашу документацию для получения дополнительной информации о том, как использовать, установить или внести свой вклад в Pyrit.
• Посетите наш сервер Discord, чтобы поболтать с командой и сообществом.

Товарные знаки

Этот проект может содержать товарные знаки или логотипы для проектов, продуктов или услуг. Уполномоченное использование товарных знаков или логотипов Microsoft подлежит и должно следовать указаниям Microsoft по товарной марке и брендам. Использование товарных знаков Microsoft или логотипов в модифицированных версиях этого проекта не должно вызывать путаницу или подразумевать спонсорство Microsoft. Любое использование сторонних товарных знаков или логотипов подвержена политике сторонних сторон.

Цитируя пирит

Если вы используете Pyrit в своем исследовании, пожалуйста, укажите нашу предварительную бумагу следующим образом:

 @misc{munoz2024pyritframeworksecurityrisk,
      title={PyRIT: A Framework for Security Risk Identification and Red Teaming in Generative AI Systems},
      author={Gary D. Lopez Munoz and Amanda J. Minnich and Roman Lutz and Richard Lundeen and Raja Sekhar Rao Dheekonda and Nina Chikanov and Bolor-Erdene Jagdagdorj and Martin Pouliot and Shiven Chawla and Whitney Maxwell and Blake Bullwinkel and Katherine Pratt and Joris de Gruyter and Charlotte Siska and Pete Bryan and Tori Westerhoff and Chang Kawaguchi and Christian Seifert and Ram Shankar Siva Kumar and Yonatan Zunger},
      year={2024},
      eprint={2410.02828},
      archivePrefix={arXiv},
      primaryClass={cs.CR},
      url={https://arxiv.org/abs/2410.02828},
}

Кроме того, пожалуйста, укажите сам инструмент после файла CITATION.cff в корне этого репозитория.