fairlearn

Fairlearn

A Fairlearn é um pacote Python que capacita os desenvolvedores de sistemas de inteligência artificial (AI) para avaliar a justiça de seu sistema e mitigar quaisquer problemas de injustiça observada. A Fairlearn contém algoritmos de mitigação, bem como métricas para avaliação do modelo. Além do código -fonte, este repositório também contém notebooks Jupyter com exemplos de uso da Fairlearn.

Site: https://fairlearn.org/

• Liberação atual
• O que queremos dizer com *justiça *
• Visão geral do Fairlearn
• Métricas Fairlearn
• Algoritmos Fairlearn
• Instale o Fairlearn
• Uso
• Contribuindo
• Mantenedores
• Problemas

Liberação atual

• A versão estável atual está disponível no Pypi.
• Nossa versão atual pode diferir substancialmente das versões anteriores. Os usuários de versões anteriores devem visitar nosso guia de versão para navegar em alterações significativas e encontrar informações sobre como migrar.

O que queremos dizer com justiça

Um sistema de IA pode se comportar injustamente por vários motivos. Em Fairlearn, definimos se um sistema de IA está se comportando injustamente em termos de seu impacto nas pessoas - ou seja, em termos de danos. Nós nos concentramos em dois tipos de danos:

• Alocação prejudica. Esses danos podem ocorrer quando os sistemas de IA estendem ou retêm oportunidades, recursos ou informações. Algumas das principais aplicações estão em contratação, admissões escolares e empréstimos.
• Danos de qualidade de serviço. A qualidade de serviço refere -se a se um sistema funciona tão bem para uma pessoa quanto para outra, mesmo que não haja oportunidades, recursos ou informações estendidos ou retidos.

Seguimos a abordagem conhecida como Fairness Group , que pergunta: Quais grupos de indivíduos correm risco de sofrer danos? Os grupos relevantes precisam ser especificados pelo cientista de dados e são específicos de aplicação.

A justiça do grupo é formalizada por um conjunto de restrições, que exigem que alguns aspectos (ou aspectos) do comportamento do sistema de IA sejam comparáveis ​​entre os grupos. O pacote Fairlearn permite a avaliação e mitigação da injustiça sob várias definições comuns. Para saber mais sobre nossas definições de justiça, visite nosso Guia do Usuário sobre a justiça dos sistemas de IA.

Nota : A justiça é fundamentalmente um desafio sociotécnico. Muitos aspectos da justiça, como justiça e devido processo, não são capturados por métricas quantitativas de justiça. Além disso, existem muitas métricas quantitativas de justiça que não podem ser satisfeitas simultaneamente. Nosso objetivo é permitir que os seres humanos avaliem diferentes estratégias de mitigação e, em seguida, tornar as trade-offs apropriadas ao seu cenário.

Visão geral do Fairlearn

O pacote Fairlearn Python tem dois componentes:

• Métricas para avaliar quais grupos são impactados negativamente por um modelo e para comparar vários modelos em termos de várias métricas de justiça e precisão.
• Algoritmos para mitigar a injustiça em uma variedade de tarefas de IA e ao longo de uma variedade de definições de justiça.

Métricas Fairlearn

Confira nosso guia detalhado sobre as métricas Fairlearn.

Algoritmos Fairlearn

Para uma visão geral de nossos algoritmos, consulte o nosso site.

Instale o Fairlearn

Para obter instruções sobre como instalar o Fairlearn, consulte o nosso Guia do Investro Quick.

Uso

Para uso comum, consulte os notebooks Jupyter e nosso guia do usuário. Observe que nossas APIs estão sujeitas a alterações; portanto, os notebooks baixados do main podem não ser compatíveis com o Fairlearn instalado com pip . Nesse caso, navegue pelas tags no repositório (por exemplo, v0.7.0) para localizar a versão apropriada do notebook.

Contribuindo

Para contribuir, verifique nosso guia do colaborador.

Mantenedores

Uma lista dos mantenedores atuais está em nosso site.

Problemas

Perguntas de uso

Faça perguntas e ajude a respondê -las no transbordamento da pilha com a tag fairlearn ou na discórdia.

Problemas regulares (não de segurança)

Os problemas são destinados a bugs, solicitações de recursos e melhorias de documentação. Por favor, envie um relatório por meio de problemas do GitHub. Um mantenedor responderá prontamente conforme apropriado.

Os mantenedores tentarão vincular problemas duplicados quando possível.

Relatar problemas de segurança

Para relatar problemas de segurança, envie um e-mail para [email protected] .