PyRIT

생성 AI (Pyrit)를위한 파이썬 위험 식별 도구

생성 AI (Python Risk Identification Tool for Generative AI)는 보안 전문가와 엔지니어가 생성 AI 시스템의 위험을 사전에 식별 할 수 있도록 강화하기 위해 구축 된 오픈 소스 프레임 워크입니다.

• Pyrit 사용, 설치 또는 기여 방법에 대한 자세한 내용은 문서를 확인하십시오.
• Discord 서버를 방문하여 팀 및 커뮤니티와 채팅하십시오.

상표

이 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표 또는 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 승인 된 사용에는 Microsoft의 상표 및 브랜드 지침이 적용되며 따라야합니다. 이 프로젝트의 수정 된 버전에서 Microsoft 상표 또는 로고를 사용한다고해서 혼란을 일으키거나 Microsoft 후원을 암시해서는 안됩니다. 타사 상표 또는 로고를 사용하면 타사 정책이 적용됩니다.

Pyrit 인용

연구에서 Pyrit을 사용하는 경우 다음과 같이 Preprint 용지를 인용하십시오.

 @misc{munoz2024pyritframeworksecurityrisk,
      title={PyRIT: A Framework for Security Risk Identification and Red Teaming in Generative AI Systems},
      author={Gary D. Lopez Munoz and Amanda J. Minnich and Roman Lutz and Richard Lundeen and Raja Sekhar Rao Dheekonda and Nina Chikanov and Bolor-Erdene Jagdagdorj and Martin Pouliot and Shiven Chawla and Whitney Maxwell and Blake Bullwinkel and Katherine Pratt and Joris de Gruyter and Charlotte Siska and Pete Bryan and Tori Westerhoff and Chang Kawaguchi and Christian Seifert and Ram Shankar Siva Kumar and Yonatan Zunger},
      year={2024},
      eprint={2410.02828},
      archivePrefix={arXiv},
      primaryClass={cs.CR},
      url={https://arxiv.org/abs/2410.02828},
}

또한이 저장소의 루트에있는 CITATION.cff 파일에 따라 도구 자체를 인용하십시오.