fairlearn

Terrier

FairLearn est un package Python qui permet aux développeurs de systèmes d'intelligence artificielle (IA) d'évaluer l'équité de leur système et d'atténuer les problèmes d'injustice observés. FairLearn contient des algorithmes d'atténuation ainsi que des mesures pour l'évaluation du modèle. Outre le code source, ce référentiel contient également des carnets Jupyter avec des exemples d'utilisation de FairLearn.

Site Web: https://fairlearn.org/

• Version actuelle
• Ce que nous entendons par * l'équité *
• Aperçu de FairLearn
• Métriques de FairLearn
• Algorithmes de FairLary
• Installer FairLearn
• Usage
• Contributif
• Maintient
• Problèmes

Version actuelle

• La version stable actuelle est disponible sur PYPI.
• Notre version actuelle peut différer considérablement des versions antérieures. Les utilisateurs des versions antérieures devraient visiter notre guide de version pour naviguer dans des modifications importantes et trouver des informations sur la façon de migrer.

Ce que nous entendons par équité

Un système d'IA peut se comporter injustement pour diverses raisons. Dans FairLearn, nous définissons si un système d'IA se comporte injustement en termes d'impact sur les personnes - c'est-à-dire en termes de préjudice. Nous nous concentrons sur deux types de dommages:

• Allocation préjudice. Ces dommages peuvent se produire lorsque les systèmes d'IA étendent ou retiennent des opportunités, des ressources ou des informations. Certaines des applications clés concernent l'embauche, les admissions scolaires et les prêts.
• Dommages à la qualité de service. La qualité de service se réfère à savoir si un système fonctionne aussi bien pour une personne comme pour une autre, même si aucune opportunité, les ressources ou les informations n'est prolongée ou retenue.

Nous suivons l'approche connue sous le nom d'équité de groupe , qui demande: quels groupes d'individus sont à risque de subir des dommages? Les groupes pertinents doivent être spécifiés par le Data Scientist et sont spécifiques à l'application.

L'équité du groupe est formalisée par un ensemble de contraintes, qui nécessitent que certains aspects (ou aspects) du comportement du système d'IA soient comparables entre les groupes. Le package FairLearn permet l'évaluation et l'atténuation de l'injustice dans le cadre de plusieurs définitions communes. Pour en savoir plus sur nos définitions de l'équité, veuillez visiter notre guide de l'utilisateur sur l'équité des systèmes d'IA.

Remarque : L'équité est fondamentalement un défi sociotechnique. De nombreux aspects de l'équité, tels que la justice et la procédure régulière, ne sont pas capturés par des mesures d'équité quantitatives. De plus, il existe de nombreuses mesures d'équité quantitatives qui ne peuvent pas toutes être satisfaites simultanément. Notre objectif est de permettre aux humains d'évaluer différentes stratégies d'atténuation, puis de faire des compromis appropriés à leur scénario.

Aperçu de FairLearn

Le package FairLearn Python a deux composants:

• Mesures pour évaluer quels groupes sont impactés négativement par un modèle et pour comparer plusieurs modèles en termes de diverses mesures d'équité et de précision.
• Algorithmes pour atténuer l'injustice dans une variété de tâches d'IA et le long d'une variété de définitions d'équité.

Métriques de FairLearn

Consultez notre guide approfondi sur les métriques de FairLearn.

Algorithmes de FairLary

Pour un aperçu de nos algorithmes, veuillez vous référer à notre site Web.

Installer FairLearn

Pour des instructions sur la façon d'installer FairLearn, consultez notre guide QuickStart.

Usage

Pour une utilisation commune, reportez-vous aux cahiers de jupyter et à notre guide de l'utilisateur. Veuillez noter que nos API sont susceptibles de modifier, de sorte que les ordinateurs portables téléchargés à partir de main peuvent ne pas être compatibles avec FairLearn installé avec pip . Dans ce cas, veuillez naviguer dans les balises du référentiel (par exemple V0.7.0) pour localiser la version appropriée du cahier.

Contributif

Pour contribuer, veuillez consulter notre guide des contributeurs.

Maintient

Une liste des agents actuels est sur notre site Web.

Problèmes

Questions d'utilisation

Posez des questions et aidez à y répondre sur Stack Overflow avec la balise fairlearn ou sur Discord.

Problèmes réguliers (non-sécurité)

Les problèmes sont destinés aux bogues, aux demandes de fonctionnalités et aux améliorations de la documentation. Veuillez soumettre un rapport via les problèmes de GitHub. Un responsable réagira rapidement le cas échéant.

Les responsables essaieront de lier des problèmes en double si possible.

Signaler des problèmes de sécurité

Pour signaler les problèmes de sécurité, veuillez envoyer un e-mail à [email protected] .