Récemment, Human Rights Watch (HRW) a publié un rapport révélant la présence d'un grand nombre de photos personnelles non autorisées d'enfants brésiliens dans l'ensemble de données de formation populaire du générateur d'images IA. Ces photos proviennent de blogs et de vidéos personnels et contiennent les noms des enfants et des informations de localisation, qui peuvent être facilement traquées et exploitées, soulevant de sérieuses inquiétudes quant à la vie privée et à la sécurité des enfants. Le rapport souligne que le développement de la technologie de l'IA qui change les visages a augmenté le risque que des portraits d'enfants soient utilisés pour générer du contenu pornographique, ce qui entraîne des risques pour les enfants, tels que l'intimidation et la pêche, et provoque même un traumatisme mental durable. HRW appelle les gouvernements et les entreprises technologiques à prendre leurs responsabilités et à développer des mesures de protection, et recommande de renforcer la protection des données des enfants au niveau juridique.
Le rapport souligne que l'ensemble de données LAION-5B contient au moins 170 photos d'enfants de 10 États du Brésil, couvrant différents stades d'enfants, de la petite enfance à l'adolescence. Bien que l'organisation LAION ait pris des mesures pour supprimer les liens pertinents, le rapport estime que cela pourrait sous-estimer la situation réelle. HRW a souligné qu'il est injuste de transférer la responsabilité de la protection de la vie privée des enfants aux parents. Le gouvernement et les entreprises technologiques devraient activement assumer leurs responsabilités, formuler des lois et réglementations pertinentes, interdire clairement l'utilisation des données personnelles des enfants pour entraîner des systèmes d'IA sans autorisation et les fournir. manière de rendre des comptes aux enfants victimes. Les pays du monde entier devraient également renforcer la protection des données des enfants afin de prévenir les abus de l'IA et la génération de contenus inappropriés. Cet incident met une fois de plus en évidence les défis éthiques et les problèmes de sécurité des données existant dans le développement de la technologie de l'intelligence artificielle, qui nécessitent des efforts conjoints de toutes les parties pour les résoudre efficacement.