fairlearn

Fairlearn

Fairlearn adalah paket Python yang memberdayakan pengembang sistem kecerdasan buatan (AI) untuk menilai keadilan sistem mereka dan mengurangi masalah ketidakadilan yang diamati. Fairlearn berisi algoritma mitigasi serta metrik untuk penilaian model. Selain kode sumber, repositori ini juga berisi buku catatan Jupyter dengan contoh penggunaan Fairlearn.

Situs web: https://fairlearn.org/

• Rilis saat ini
• Apa yang kita maksud dengan *keadilan *
• Tinjauan Fairlearn
• Metrik Fairlearn
• Algoritma Fairlearn
• Instal Fairlearn
• Penggunaan
• Berkontribusi
• Pemelihara
• Masalah

Rilis saat ini

• Rilis stabil saat ini tersedia di PYPI.
• Versi kami saat ini mungkin berbeda secara substansial dari versi sebelumnya. Pengguna versi sebelumnya harus mengunjungi panduan versi kami untuk menavigasi perubahan signifikan dan menemukan informasi tentang cara bermigrasi.

Apa yang kita maksud dengan keadilan

Sistem AI dapat berperilaku tidak adil karena berbagai alasan. Di Fairlearn, kami mendefinisikan apakah suatu sistem AI berperilaku tidak adil dalam hal dampaknya pada orang - yaitu dalam hal kerugian. Kami fokus pada dua jenis bahaya:

• Bahaya alokasi. Kerusakan ini dapat terjadi ketika sistem AI memperluas atau menahan peluang, sumber daya, atau informasi. Beberapa aplikasi utama adalah dalam perekrutan, penerimaan sekolah, dan pinjaman.
• Kualitas kerusakan layanan. Kualitas layanan mengacu pada apakah suatu sistem juga berfungsi dengan baik untuk satu orang seperti halnya yang lain, bahkan jika tidak ada peluang, sumber daya, atau informasi yang diperpanjang atau ditahan.

Kami mengikuti pendekatan yang dikenal sebagai keadilan kelompok , mana yang bertanya: kelompok individu mana yang berisiko mengalami bahaya? Kelompok yang relevan perlu ditentukan oleh ilmuwan data dan spesifik aplikasi.

Keadilan kelompok diformalkan oleh serangkaian kendala, yang mensyaratkan bahwa beberapa aspek (atau aspek) dari perilaku sistem AI sebanding di seluruh kelompok. Paket Fairlearn memungkinkan penilaian dan mitigasi ketidakadilan di bawah beberapa definisi umum. Untuk mempelajari lebih lanjut tentang definisi keadilan kami, silakan kunjungi Panduan Pengguna kami tentang keadilan sistem AI.

Catatan : Keadilan pada dasarnya adalah tantangan sosioteknik. Banyak aspek keadilan, seperti keadilan dan proses hukum, tidak ditangkap oleh metrik keadilan kuantitatif. Selain itu, ada banyak metrik keadilan kuantitatif yang tidak dapat dipenuhi secara bersamaan. Tujuan kami adalah untuk memungkinkan manusia menilai strategi mitigasi yang berbeda dan kemudian membuat trade-off sesuai dengan skenario mereka.

Tinjauan Fairlearn

Paket Fairlearn Python memiliki dua komponen:

• Metrik untuk menilai kelompok mana yang dipengaruhi secara negatif oleh suatu model, dan untuk membandingkan beberapa model dalam hal berbagai metrik keadilan dan akurasi.
• Algoritma untuk mengurangi ketidakadilan dalam berbagai tugas AI dan sepanjang berbagai definisi keadilan.

Metrik Fairlearn

Lihatlah panduan mendalam kami tentang metrik Fairlearn.

Algoritma Fairlearn

Untuk tinjauan algoritma kami, silakan merujuk ke situs web kami.

Instal Fairlearn

Untuk instruksi tentang cara menginstal fairlearn, lihat panduan QuickStart kami.

Penggunaan

Untuk penggunaan umum, lihat buku catatan Jupyter dan panduan pengguna kami. Harap dicatat bahwa API kami dapat berubah, jadi notebook yang diunduh dari main mungkin tidak kompatibel dengan FairLearn yang diinstal dengan pip . Dalam hal ini, silakan navigasikan tag di repositori (misalnya v0.7.0) untuk menemukan versi notebook yang sesuai.

Berkontribusi

Untuk berkontribusi silakan periksa panduan kontributor kami.

Pemelihara

Daftar pengelola saat ini ada di situs web kami.

Masalah

Pertanyaan penggunaan

Mengajukan pertanyaan dan membantu menjawabnya di stack overflow dengan tag fairlearn atau di perselisihan.

Masalah reguler (non-keamanan)

Masalah dimaksudkan untuk bug, permintaan fitur, dan peningkatan dokumentasi. Harap kirimkan laporan melalui masalah GitHub. Seorang pengelola akan merespons segera.

Pemelihara akan mencoba menautkan masalah duplikat bila memungkinkan.

Melaporkan masalah keamanan

Untuk melaporkan masalah keamanan, silakan kirim email ke [email protected] .