Ярлык Meta «Сделано с помощью ИИ» вызывает споры! Несколько фотографов пожаловались, что Meta ошибочно пометила реальные фотографии, которые они сделали, как изображения, созданные искусственным интеллектом. Эта проблема связана с использованием программного обеспечения для редактирования фотографий. Даже простое кадрирование и сжатие может вызвать срабатывание алгоритма Meta и ошибочно принять реальные фотографии за контент, созданный искусственным интеллектом. Этот инцидент подчеркнул ограничения технологии распознавания изображений AI в практическом применении, а также вызвал обеспокоенность среди фотографов по поводу авторских прав и справедливости алгоритмов.
Сообщается, что Meta знает о проблеме и работает над улучшением своих алгоритмов распознавания изображений, чтобы более точно идентифицировать изображения, созданные ИИ. Однако нынешний мета-метод все еще имеет недостатки, которые создают проблемы для творений и работ фотографов. В Meta заявили, что работают с соответствующими компаниями над улучшением этого процесса, но конкретные решения и графики улучшений еще не объявлены. Этот инцидент также еще раз напоминает нам, что по мере развития технологии искусственного интеллекта нам необходимо уделять больше внимания ее потенциальному этическому и социальному потенциалу. проблемы.
По сообщениям зарубежных СМИ, несколько фотографов жаловались, что Мета по ошибке добавила к реальным фотографиям, которые они сделали, пометку «Сделано с помощью ИИ». Несколько фотографов поделились примерами за последние несколько месяцев, совсем недавно Мета назвала фотографию баскетбольного матча, сделанную бывшим фотографом Белого дома Питом Соузой, созданной искусственным интеллектом.
В другом недавнем примере Мета по ошибке добавила тег к фотографии в Instagram, на которой команда Kolkata Knight Riders выиграла высшую лигу крикета в Индии. Интересно, что, как и в случае с фотографией Соузы, этот тег отображается только при просмотре изображения на мобильном устройстве, а не в Интернете.
Соуза сказал, что он пытался, но не смог удалить метку. Он предположил, что использование инструмента обрезки Adobe и сжатие изображения в формат JPEG может активировать алгоритм Meta.
Однако Meta также неправильно помечала реальные фотографии как «Сделанные с помощью ИИ», когда фотографы использовали генеративные инструменты ИИ, такие как Generative Fill от Adobe, для удаления мельчайших объектов, сообщает PetaPixel. Издание провело собственный тест с использованием инструмента «Создать заливку» в Photoshop, чтобы удалить пятно на изображении, которое Meta затем пометило в Instagram как созданное искусственным интеллектом. Однако, как ни странно, когда PetaPixel повторно загрузил файл в Photoshop, а затем скопировал и вставил его в черный документ для сохранения, Meta не добавила тег «Сделано с помощью AI». Многие фотографы выразили недовольство тем, что такие незначительные правки несправедливо помечены как созданные искусственным интеллектом.
Фотограф Ной Калина написал в Threads: «Если бы все «отретушированные» фотографии были помечены как «Сделано с помощью искусственного интеллекта», тогда этот термин фактически потерял бы смысл. Если бы они серьезно относились к защите людей, они могли бы автоматически давать всем фотографиям пометку «Не соответствует действительности». '."
Представитель Meta Кейт Маклафлин заявила в своем заявлении, что компания знает об этой проблеме и оценивает свой подход, «чтобы наши этикетки отражали количество искусственного интеллекта, используемого в изображениях». «Мы рассчитываем на то, что другие компании будут использовать ту же технологию в своих инструментах». Включены стандартные отраслевые показатели, поэтому мы активно работаем с этими компаниями над улучшением этого процесса и согласованием нашего подхода к маркировке с нашими намерениями», — добавил Маклафлин.
В феврале Meta объявила, что добавит тег «Сделано с помощью ИИ» к фотографиям, загруженным в Facebook, Instagram и Threads в преддверии сезона выборов этого года. В частности, компания заявила, что добавит теги к фотографиям AI, созданным с помощью таких инструментов, как Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock.
Meta не раскрыла, что привело к появлению ярлыка «Сделано с помощью ИИ», но все эти компании добавили или находятся в процессе добавления метаданных в файлы изображений, чтобы указать на использование инструментов ИИ, что является способом Meta идентифицировать созданные ИИ. фотографии. Adobe, например, в прошлом году запустила свою систему учетных данных контента, которая добавляет информацию об источнике контента в метаданные.
Основные моменты:
- Многие фотографы жаловались, что Meta неправильно помечает настоящие фотографии как «Сделано с помощью ИИ».
- Это влияет на фотографии, созданные с помощью инструментов редактирования.
- Мета также неправильно помечала реальные фотографии как «Сделано с помощью ИИ» при использовании инструментов генеративного ИИ.
Ответ Meta на этот вопрос указывает на то, что они работают над улучшением своих алгоритмов, чтобы уменьшить количество ложных срабатываний. Но это также обнажает ограничения технологии искусственного интеллекта в распознавании изображений и возможные негативные последствия для практических приложений. Как сбалансировать технологическое развитие и защиту прав пользователей, по-прежнему остается проблемой, требующей постоянного внимания и решения.