Недавно Хьюман Райтс Вотч (HRW) опубликовала отчет, в котором говорится о наличии большого количества несанкционированных личных фотографий бразильских детей в популярном наборе обучающих данных генератора изображений искусственного интеллекта. Эти фотографии взяты из личных блогов и видео и содержат имена детей и информацию о местоположении, которую можно легко отследить и использовать в неправомерных целях, что вызывает серьезные опасения в отношении конфиденциальности и безопасности детей. В докладе отмечается, что развитие технологии искусственного интеллекта, меняющей лица, увеличило риск использования детских портретов для создания порнографического контента, создавая такие риски для детей, как издевательства и рыбалка, и даже вызывая длительную психическую травму. HRW призывает правительства и технологические компании взять на себя ответственность и разработать защитные меры, а также рекомендует усилить защиту данных детей на законодательном уровне.
В отчете отмечается, что набор данных LAION-5B содержит не менее 170 фотографий детей из 10 штатов Бразилии, охватывающих различные этапы развития детей от младенчества до подросткового возраста. Хотя организация LAION предприняла шаги по удалению соответствующих ссылок, в отчете полагают, что это может недооценивать реальную ситуацию. HRW подчеркнула, что несправедливо перекладывать ответственность за защиту конфиденциальности детей на родителей. Правительство и технологические компании должны активно взять на себя ответственность, сформулировать соответствующие законы и правила, четко запретить использование личных данных детей для обучения систем искусственного интеллекта без разрешения и предоставить их. ответственность за детей-жертв. Странам всего мира следует также усилить защиту данных детей, чтобы предотвратить злоупотребление искусственным интеллектом и создание ненадлежащего контента. Этот инцидент еще раз подчеркивает этические проблемы и проблемы безопасности данных, существующие при разработке технологий искусственного интеллекта, которые требуют совместных усилий всех сторон для их эффективного решения.