Le label « Made with AI » de Meta suscite la polémique ! Plusieurs photographes se sont plaints que Meta avait étiqueté par erreur les vraies photos qu'ils avaient prises comme des images générées par l'IA. Ce problème implique l'utilisation d'un logiciel de retouche photo. Même un simple recadrage et compression peut déclencher l'algorithme de Meta et considérer à tort les vraies photos comme du contenu généré par l'IA. Cet incident a mis en évidence les limites de la technologie de reconnaissance d’images par l’IA dans les applications pratiques et a également suscité des inquiétudes parmi les photographes concernant le droit d’auteur et l’équité des algorithmes.
Meta serait conscient du problème et s'efforce d'améliorer ses algorithmes de reconnaissance d'images afin d'identifier plus précisément les images générées par l'IA. Cependant, la méthode Meta actuelle présente encore des lacunes, causant des problèmes aux créations et aux travaux des photographes. Meta a déclaré qu'elle travaillait avec les entreprises concernées pour améliorer ce processus, mais que des solutions spécifiques et des calendriers d'amélioration n'ont pas encore été annoncés. Cet incident nous rappelle également une fois de plus qu'à mesure que la technologie de l'IA se développe, nous devons accorder plus d'attention à son potentiel éthique et social. problèmes.
Selon les médias étrangers, plusieurs photographes se sont plaints que Meta avait ajouté par erreur l'étiquette « Made with AI » aux vraies photos qu'ils avaient prises. Plusieurs photographes ont partagé des exemples au cours des derniers mois, le plus récemment Meta qualifiant une photo d'un match de basket prise par l'ancien photographe de la Maison Blanche Pete Souza de générée par l'IA.
Dans un autre exemple récent, Meta a ajouté par erreur le tag à une photo Instagram montrant les Kolkata Knight Riders remportant une première ligue de cricket en Inde. Fait intéressant, comme pour la photo de Sousa, cette balise n'apparaît que lors de la visualisation de l'image sur un appareil mobile, pas sur le Web.
Souza a déclaré qu'il avait essayé et échoué à faire retirer l'étiquette. Il a émis l'hypothèse que l'utilisation de l'outil de recadrage d'Adobe et la compression de l'image au format JPEG pourraient déclencher l'algorithme de Meta.
Cependant, Meta a également étiqueté à tort de vraies photos comme étant réalisées avec l'IA lorsque les photographes utilisaient des outils d'IA générative tels que Generative Fill d'Adobe pour supprimer les plus petits objets, a rapporté PetaPixel. La publication a effectué son propre test à l'aide de l'outil Generate Fill de Photoshop pour supprimer une goutte dans une image, que Meta a ensuite signalée sur Instagram comme générée par l'IA. Étrangement, cependant, lorsque PetaPixel a retéléchargé le fichier dans Photoshop, puis l'a copié et collé dans un document noir pour l'enregistrer, Meta n'a pas ajouté la balise « Made with AI ». Plusieurs photographes ont exprimé leur mécontentement quant au fait que ces modifications mineures aient été injustement étiquetées comme générées par l’IA.
Le photographe Noah Kalina a écrit sur Threads : « Si toutes les photos 'retouchées' étaient étiquetées 'Réalisées avec l'IA', alors le terme n'aurait effectivement aucun sens. S'ils voulaient vraiment protéger les gens, ils pourraient automatiquement donner à chaque photo étiquetée 'pas une vraie représentation'. '."
La porte-parole de Meta, Kate McLaughlin, a déclaré dans un communiqué que la société était consciente du problème et évaluait son approche "afin que nos étiquettes reflètent la quantité d'IA utilisée dans les images". "Nous comptons sur d'autres sociétés pour utiliser la même technologie dans leurs outils". Des mesures standard de l'industrie sont incluses, nous travaillons donc activement avec ces entreprises pour améliorer ce processus et aligner notre approche d'étiquetage sur notre intention », a ajouté McLaughlin.
En février, Meta a annoncé qu’elle ajouterait une balise « Made with AI » aux photos téléchargées sur Facebook, Instagram et Threads avant la saison électorale de cette année. Plus précisément, la société a annoncé qu'elle ajouterait des balises aux photos IA générées à l'aide d'outils tels que Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock.
Meta n'a pas révélé ce qui a déclenché l'étiquette "Made with AI", mais toutes ces sociétés ont ajouté ou sont en train d'ajouter des métadonnées aux fichiers image pour indiquer l'utilisation d'outils d'IA, ce qui est la manière dont Meta identifie les produits générés par l'IA. photos. Adobe, par exemple, a lancé l'année dernière son système d'identification de contenu, qui ajoute des informations sur la source du contenu aux métadonnées.
Souligner:
- Plusieurs photographes se sont plaints du fait que Meta avait incorrectement étiqueté les vraies photos comme étant « réalisées avec l'IA ».
- Les photos créées à l'aide d'outils d'édition semblent être affectées.
- Meta a également étiqueté à tort les vraies photos comme étant réalisées avec l'IA lors de l'utilisation d'outils d'IA génératifs.
La réponse de Meta à cette question indique qu’ils s’efforcent d’améliorer leurs algorithmes afin de réduire les faux positifs. Mais cela révèle également les limites de la technologie de l’IA en matière de reconnaissance d’images et les éventuels impacts négatifs dans les applications pratiques. Comment équilibrer le développement technologique et la protection des droits des utilisateurs reste un problème qui nécessite une attention et une résolution continues.