fairlearn

Fairlearn

Fairlearn - это пакет Python, который расширяет возможности разработчиков систем искусственного интеллекта (ИИ) для оценки справедливости своей системы и смягчения любых наблюдаемых проблем несправедливости. Fairlearn содержит алгоритмы смягчения, а также метрики для оценки модели. Помимо исходного кода, этот репозиторий также содержит ноутбуки Юпитера с примерами использования Fairlearn.

Веб -сайт: https://fairlearn.org/

• Текущий релиз
• Что мы подразумеваем под *справедливостью *
• Обзор Fairlearn
• Метрики Fairlearn
• Алгоритмы Fairlearn
• Установите Fairlearn
• Использование
• Внося
• Содействия
• Проблемы

Текущий релиз

• Текущий стабильный релиз доступен на PYPI.
• Наша текущая версия может существенно отличаться от более ранних версий. Пользователи более ранних версий должны посетить наше руководство по версиям, чтобы находить на значительные изменения и найти информацию о том, как мигрировать.

Что мы подразумеваем под справедливостью

Система ИИ может вести себя несправедливо по разным причинам. В Fairlearn мы определяем, ведет ли систему ИИ несправедливо с точки зрения ее влияния на людей - т.е. с точки зрения вреда. Мы сосредоточены на двух видах вреда:

• Распределение вреда. Эти вреда может возникнуть, когда системы искусственного интеллекта расширяются или удерживают возможности, ресурсы или информацию. Некоторые из ключевых приложений - наем, в школе и кредитование.
• Качество обслуживания вреда. Качество обслуживания относится к тому, работает ли система для одного человека, как и для другого, даже если нет возможностей, ресурсов или информации не распространяются или не удерживаются.

Мы следуем подходу, известному как справедливость группы , который спрашивает: какие группы людей подвергаются риску причинения вреда? Соответствующие группы должны быть указаны ученым -ученом и являются специфичными для применения.

Групповая справедливость формализована набором ограничений, которые требуют, чтобы некоторые аспекты (или аспекты) поведения системы ИИ были сопоставимыми между группами. Пакет Fairlearn обеспечивает оценку и смягчение несправедливости по нескольким общим определениям. Чтобы узнать больше о наших определениях справедливости, пожалуйста, посетите наше руководство пользователя о справедливости систем искусственного интеллекта.

Примечание : справедливость в основном является социотехническим вызовом. Многие аспекты справедливости, такие как справедливость и надлежащая процедура, не отражаются количественными показателями справедливости. Кроме того, существует много количественных показателей справедливости, которые не могут быть удовлетворены одновременно. Наша цель состоит в том, чтобы позволить людям оценивать различные стратегии смягчения последствий, а затем сделать компромиссы подходящими для их сценария.

Обзор Fairlearn

У пакета Paillearn Python есть два компонента:

• Метрики для оценки, на какие группы негативно влияют модель, и для сравнения нескольких моделей с точки зрения различных показателей справедливости и точности.
• Алгоритмы для смягчения несправедливости в различных задачах ИИ и по различным определениям справедливости.

Метрики Fairlearn

Проверьте наше углубленное руководство по метрикам Fairlearn.

Fairlearn algorithms

For an overview of our algorithms please refer to our website.

Install Fairlearn

For instructions on how to install Fairlearn check out our Quickstart guide.

Использование

Для общего использования обращайтесь к записным книжкам Jupyter и нашему руководству пользователя. Обратите внимание, что наши API могут быть изменены, поэтому записные книжки, загруженные с main могут быть совместимы с Fairlearn, установленным с pip . В этом случае, пожалуйста, перемещайте теги в репозитории (например, v0.7.0), чтобы найти соответствующую версию ноутбука.

Внося

Чтобы внести свой вклад, пожалуйста, проверьте наше руководство по вкладчику.

Содействия

Список текущих сопровождающих находится на нашем сайте.

Проблемы

Вопросы использования

Постазовать на вопросы и помочь ответить на них на переполнении стека с помощью TAG fairlearn или на Discord.

Регулярные (несекционные) проблемы

Проблемы предназначены для ошибок, запросов функций и улучшения документации. Пожалуйста, отправьте отчет через выпуск GitHub. Содействие будет реагировать незамедлительно по мере необходимости.

Содействия будут пытаться связать дублирующие проблемы, когда это возможно.

Сообщение о вопросах безопасности

Чтобы сообщить о вопросах безопасности, пожалуйста, отправьте электронное письмо на [email protected] .