Meta a récemment suscité la controverse lorsque son système de reconnaissance d'images par IA a étiqueté par erreur de vraies photos comme étant « produites par l'IA ». Plusieurs photographes, dont l'ancien photographe de la Maison Blanche Pete Souza, ont signalé des problèmes similaires, leurs travaux étant incorrectement étiquetés comme générés par l'IA, soulevant des questions sur l'exactitude de la technologie de reconnaissance de l'IA de Meta et révélant d'éventuelles failles dans ce système et une violation potentielle des droits des créateurs. . Cet incident s'est rapidement propagé sur les réseaux sociaux et a attiré l'attention du plus grand nombre.
Récemment, le géant des médias sociaux Meta a été impliqué dans une controverse concernant les balises IA. Plusieurs photographes se sont plaints du fait que Meta avait ajouté par erreur l'étiquette « Made by AI » aux vraies photos qu'ils avaient prises, soulevant des questions sur l'exactitude des systèmes de reconnaissance d'IA de l'entreprise.
Ce problème a été découvert pour la première fois par l'ancien photographe de la Maison Blanche Pete Souza. Une photo d'un match de basket-ball qu'il a prise a été étiquetée par erreur comme étant générée par l'IA par Meta. Par la suite, de plus en plus de photographes ont signalé des situations similaires, notamment la photo des champions indiens de la Premier League étant mal étiquetée. Il est intéressant de noter que ces étiquettes d’erreur n’apparaissent que sur les appareils mobiles et non sur le Web.
Ce qui est encore plus inquiétant, c’est que même des modifications extrêmement mineures pourraient déclencher les balises IA de Meta. PetaPixel rapporte que l'utilisation de l'outil de remplissage génératif d'Adobe Photoshop pour supprimer les petites taches d'une image était suffisante pour que Meta marque la photo comme générée par l'IA. Cela a suscité un tollé de la part des photographes, qui ont fait valoir que de telles retouches légères ne devraient pas être qualifiées de générées par l'IA.
Le photographe Noah Kalina a exprimé son opinion sur Threads : « Si une photo « retouchée » est « réalisée avec l'IA », alors le terme perd effectivement son sens. » Il a même suggéré que si Meta voulait vraiment protéger les utilisateurs, pourquoi ne pas étiqueter chaque photo comme étant. "pas une vraie représentation".
Face à la controverse, la porte-parole de Meta, Kate McLaughlin, a reconnu que l'entreprise était consciente du problème et évaluait ses méthodes d'étiquetage afin de refléter plus précisément l'étendue de l'utilisation de l'IA dans les images. Meta a déclaré qu'elle s'appuie sur des mesures standard de l'industrie et qu'elle travaille avec d'autres entreprises pour améliorer le processus.
La controverse découle d'un projet annoncé par Meta en février visant à ajouter une étiquette « réalisée par l'IA » aux photos générées à l'aide d'outils d'IA spécifiques avant la saison électorale. Bien que Meta n’ait pas révélé le mécanisme de déclenchement spécifique, on pense généralement dans l’industrie qu’il est lié aux métadonnées contenues dans le fichier image.
Avec l’application généralisée de la technologie de l’IA dans le traitement des images, la manière d’identifier et d’étiqueter avec précision le contenu généré par l’IA est devenue une question épineuse. La controverse de Meta reflète non seulement les limites de la technologie actuelle de reconnaissance de l’IA, mais déclenche également une réflexion approfondie sur l’authenticité du contenu numérique et les droits des créateurs. Alors que la controverse se poursuit, l'industrie s'attend à ce que Meta améliore son système d'étiquetage dès que possible et trouve un équilibre entre la protection des utilisateurs et le respect des créateurs.
Meta doit faire face à cet incident et réfléchir sérieusement à l’exactitude de son système de reconnaissance d’IA et à l’équité de son algorithme. Ce n'est qu'en améliorant continuellement la technologie et en communiquant activement avec les photographes et autres créateurs de contenu que nous pourrons enfin résoudre ce problème et maintenir une bonne écologie Internet.