PyRIT

Alat Identifikasi Risiko Python untuk AI generatif (Pyrit)

Alat identifikasi risiko Python untuk AI generatif (Pyrit) adalah kerangka kerja open source yang dibangun untuk memberdayakan para profesional dan insinyur keamanan untuk secara proaktif mengidentifikasi risiko dalam sistem AI generatif.

• Lihat dokumentasi kami untuk informasi lebih lanjut tentang cara menggunakan, menginstal, atau berkontribusi pada Pyrit.
• Kunjungi server Discord kami untuk mengobrol dengan tim dan komunitas.

Merek dagang

Proyek ini dapat berisi merek dagang atau logo untuk proyek, produk, atau layanan. Penggunaan resmi merek dagang atau logo Microsoft tunduk dan harus mengikuti pedoman merek dagang & merek Microsoft. Penggunaan merek dagang atau logo Microsoft dalam versi yang dimodifikasi dari proyek ini tidak boleh menyebabkan kebingungan atau menyiratkan sponsor Microsoft. Setiap penggunaan merek dagang atau logo pihak ketiga tunduk pada kebijakan pihak ketiga tersebut.

Mengutip pyrit

Jika Anda menggunakan Pyrit dalam riset Anda, silakan kutip kertas pracetak kami sebagai berikut:

 @misc{munoz2024pyritframeworksecurityrisk,
      title={PyRIT: A Framework for Security Risk Identification and Red Teaming in Generative AI Systems},
      author={Gary D. Lopez Munoz and Amanda J. Minnich and Roman Lutz and Richard Lundeen and Raja Sekhar Rao Dheekonda and Nina Chikanov and Bolor-Erdene Jagdagdorj and Martin Pouliot and Shiven Chawla and Whitney Maxwell and Blake Bullwinkel and Katherine Pratt and Joris de Gruyter and Charlotte Siska and Pete Bryan and Tori Westerhoff and Chang Kawaguchi and Christian Seifert and Ram Shankar Siva Kumar and Yonatan Zunger},
      year={2024},
      eprint={2410.02828},
      archivePrefix={arXiv},
      primaryClass={cs.CR},
      url={https://arxiv.org/abs/2410.02828},
}

Selain itu, silakan kutip alat itu sendiri mengikuti file CITATION.cff di root repositori ini.