fairlearn

Fairlearn

Fairlearn ist ein Python -Paket, das Entwicklern von KI -Systemen für künstliche Intelligenz (AI) ermöglicht, die Fairness ihres Systems zu bewerten und alle beobachteten Ungerechtigkeitsprobleme zu mildern. Fairlearn enthält Minderungsalgorithmen sowie Metriken für die Modellbewertung. Neben dem Quellcode enthält dieses Repository auch Jupyter -Notizbücher mit Beispielen für die Verwendung von Fairlearn.

Website: https://fairlearn.org/

• Aktuelle Veröffentlichung
• Was wir mit *Fairness *verstehen *
• Überblick über Fairlearn
• Fairlearn -Metriken
• Fairlearn -Algorithmen
• Fairlearn installieren
• Verwendung
• Beitragen
• Betreuer
• Probleme

Aktuelle Veröffentlichung

• Die aktuelle stabile Version ist auf PYPI erhältlich.
• Unsere aktuelle Version kann sich erheblich von früheren Versionen unterscheiden. Benutzer früherer Versionen sollten unseren Versionsleitfaden besuchen, um wichtige Änderungen zu navigieren und Informationen zur Migration zu finden.

Was wir mit Fairness verstehen

Ein KI -System kann sich aus verschiedenen Gründen ungerecht verhalten. In Fairlearn definieren wir, ob sich ein KI -System in Bezug auf seine Auswirkungen auf die Menschen - dh in Bezug auf Schäden, unfair verhalten. Wir konzentrieren uns auf zwei Arten von Schäden:

• Allokation Schäden. Diese Schäden können auftreten, wenn KI -Systeme Chancen, Ressourcen oder Informationen erweitern oder zurückhalten. Einige der wichtigsten Bewerbungen sind Einstellungen, Schulmissionen und Kreditvergabe.
• Servicequalitätsschaden. Die Qualität des Service bezieht sich darauf, ob ein System für eine Person ebenso wie für die andere funktioniert, auch wenn keine Möglichkeiten, Ressourcen oder Informationen erweitert oder zurückgehalten werden.

Wir folgen dem als Gruppengerechtigkeit bekannten Ansatz, der fragt: Welche Personengruppen sind gefährdet, Schäden zu erleben? Die relevanten Gruppen müssen vom Datenwissenschaftler angegeben werden und sind anwendungsspezifisch.

Die Fairness der Gruppe wird durch eine Reihe von Einschränkungen formalisiert, die erfordern, dass einige Aspekte (oder Aspekte) des Verhaltens des KI -Systems in den Gruppen vergleichbar sind. Das Fairlearn -Paket ermöglicht die Bewertung und Minderung der Ungerechtigkeit unter mehreren gemeinsamen Definitionen. Um mehr über unsere Definitionen der Fairness zu erfahren, besuchen Sie bitte unseren Benutzerleitfaden zur Fairness von KI -Systemen.

Hinweis : Fairness ist im Grunde eine soziotechnische Herausforderung. Viele Aspekte der Fairness wie Gerechtigkeit und ordnungsgemäßes Verfahren werden nicht von quantitativen Fairness -Metriken erfasst. Darüber hinaus gibt es viele quantitative Fairness -Metriken, die nicht alle gleichzeitig zufrieden sind. Unser Ziel ist es, Menschen zu ermöglichen, verschiedene Minderungsstrategien zu bewerten und dann Kompromisse für ihr Szenario angemessen zu machen.

Überblick über Fairlearn

Das Fairlearn Python -Paket enthält zwei Komponenten:

• Metriken zur Bewertung der Gruppen werden von einem Modell negativ beeinflusst und zum Vergleich mehrerer Modelle in Bezug auf verschiedene Fairness- und Genauigkeitsmetriken.
• Algorithmen zur Minderung der Ungerechtigkeit in einer Vielzahl von KI -Aufgaben und entlang einer Vielzahl von Fairness -Definitionen.

Fairlearn -Metriken

Schauen Sie sich unseren detaillierten Leitfaden zu den Fairlearn-Metriken an.

Fairlearn -Algorithmen

Eine Übersicht über unsere Algorithmen finden Sie auf unserer Website.

Fairlearn installieren

Anweisungen zur Installation von Fairlearn finden Sie in unserem QuickStart -Leitfaden.

Verwendung

Für die allgemeine Verwendung finden Sie in den Jupyter -Notizbüchern und unseren Benutzerhandbuch. Bitte beachten Sie, dass sich unsere APIs ändern können, sodass Notizbücher, die von main heruntergeladen wurden, möglicherweise nicht mit Fairlearn kompatibel sind, die mit pip installiert sind. In diesem Fall navigieren Sie bitte die Tags im Repository (z. B. v0.7.0), um die entsprechende Version des Notizbuchs zu finden.

Beitragen

Um einen Beitrag zu leisten, lesen Sie bitte unseren Mitwirkendenhandbuch.

Betreuer

Eine Liste der aktuellen Betreuer befindet sich auf unserer Website.

Probleme

Nutzungsfragen

Stellen Sie Fragen und helfen Sie ihnen beim Stapelüberlauf mit dem Tag fairlearn oder auf Zwietracht.

Regelmäßige (Nichtsicherheit) Probleme

Probleme sind für Fehler, Feature -Anfragen und Dokumentationsverbesserungen gedacht. Bitte senden Sie einen Bericht über GitHub -Probleme. Ein Betreuer reagiert nach Bedarf umgehend.

Die Betreuer versuchen, nach Möglichkeit doppelte Probleme zu verknüpfen.

Sicherheitsfragen melden

Um Sicherheitsprobleme zu melden, senden Sie bitte eine E-Mail an [email protected] .