fairlearn

Fairlearn

Fairlearn es un paquete de Python que permite a los desarrolladores de sistemas de inteligencia artificial (IA) para evaluar la equidad de su sistema y mitigar cualquier problema de injusticia observado. Fairlearn contiene algoritmos de mitigación, así como métricas para la evaluación del modelo. Además del código fuente, este repositorio también contiene cuadernos Jupyter con ejemplos de uso de FairLearn.

Sitio web: https://fairlearn.org/

• Lanzamiento actual
• Lo que queremos decir con *justicia *
• Descripción general de Fairlearn
• Métricas de Fairlearn
• Algoritmos de Fairlearn
• Instalar Fairlearn
• Uso
• Que contribuye
• Mantenedores
• Asuntos

Lanzamiento actual

• La versión estable actual está disponible en PYPI.
• Nuestra versión actual puede diferir sustancialmente de versiones anteriores. Los usuarios de versiones anteriores deben visitar nuestra guía de versión para navegar por cambios significativos y encontrar información sobre cómo migrar.

Lo que queremos decir con justicia

Un sistema de IA puede comportarse injustamente por una variedad de razones. En Fairlearn, definimos si un sistema de IA se comporta injustamente en términos de su impacto en las personas, es decir, en términos de daños. Nos centramos en dos tipos de daños:

• Daños de asignación. Estos daños pueden ocurrir cuando los sistemas de IA extienden o retienen oportunidades, recursos o información. Algunas de las solicitudes clave están en contratación, admisiones escolares y préstamos.
• Daños de calidad de servicio. La calidad del servicio se refiere a si un sistema funciona tan bien para una persona como lo hace para otra, incluso si no se extienden o retienen oportunidades, recursos o información.

Seguimos el enfoque conocido como justicia grupal , que pregunta: ¿Qué grupos de individuos están en riesgo de experimentar daños? Los grupos relevantes deben ser especificados por el científico de datos y son específicos de la aplicación.

La equidad grupal se formaliza por un conjunto de restricciones, que requieren que algún aspecto (o aspectos) del comportamiento del sistema de IA sea comparable en los grupos. El paquete FairLearn permite la evaluación y la mitigación de la injusticia bajo varias definiciones comunes. Para obtener más información sobre nuestras definiciones de equidad, visite nuestra Guía del usuario sobre la equidad de los sistemas de IA.

Nota : La justicia es fundamentalmente un desafío sociotécnico. Muchos aspectos de la equidad, como la justicia y el debido proceso, no son capturados por métricas cuantitativas de equidad. Además, hay muchas métricas cuantitativas de equidad que no pueden satisfacerse simultáneamente. Nuestro objetivo es permitir a los humanos evaluar diferentes estrategias de mitigación y luego hacer que las compensaciones sean apropiadas para su escenario.

Descripción general de Fairlearn

El paquete Fairlearn Python tiene dos componentes:

• Las métricas para evaluar qué grupos se ven afectados negativamente por un modelo y para comparar múltiples modelos en términos de diversas métricas de equidad y precisión.
• Algoritmos para mitigar la injusticia en una variedad de tareas de IA y a lo largo de una variedad de definiciones de equidad.

Métricas de Fairlearn

Echa un vistazo a nuestra guía en profundidad sobre las métricas de Fairlearn.

Algoritmos de Fairlearn

Para obtener una descripción general de nuestros algoritmos, consulte nuestro sitio web.

Instalar Fairlearn

Para obtener instrucciones sobre cómo instalar Fairlearn, consulte nuestra guía QuickStart.

Uso

Para uso común, consulte los cuadernos Jupyter y nuestra guía del usuario. Tenga en cuenta que nuestras API están sujetas a cambios, por lo que los cuadernos descargados desde main pueden no ser compatibles con Fairlearn instalado con pip . En este caso, navegue por las etiquetas en el repositorio (por ejemplo, v0.7.0) para localizar la versión apropiada del cuaderno.

Que contribuye

Para contribuir, consulte nuestra Guía de contribuyentes.

Mantenedores

Una lista de mantenedores actuales está en nuestro sitio web.

Asuntos

Preguntas de uso

Pose preguntas y ayude a responderlas en el desbordamiento de pila con la etiqueta fairlearn o en Discord.

Problemas regulares (no seguridad)

Los problemas están destinados a errores, solicitudes de funciones y mejoras de documentación. Envíe un informe a través de problemas de GitHub. Un mantenedor responderá de inmediato según corresponda.

Los mantenedores intentarán vincular problemas duplicados cuando sea posible.

Informes de problemas de seguridad

Para informar problemas de seguridad, envíe un correo electrónico a [email protected] .