Meta recientemente generó controversia cuando su sistema de reconocimiento de imágenes por IA etiquetó erróneamente fotos reales como "producidas por IA". Varios fotógrafos, incluido el ex fotógrafo de la Casa Blanca Pete Souza, han informado problemas similares al etiquetar incorrectamente su trabajo como generado por IA, lo que plantea dudas sobre la precisión de la tecnología de reconocimiento de IA de Meta y expone posibles fallas en este sistema y una posible infracción de los derechos de los creadores. . Este incidente se difundió rápidamente en las redes sociales y atrajo una amplia atención.
Recientemente, el gigante de las redes sociales Meta se ha visto involucrado en una controversia sobre las etiquetas de IA. Varios fotógrafos se han quejado de que Meta añadió por error la etiqueta "Hecho por IA" a las fotos reales que tomaron, lo que genera dudas sobre la precisión de los sistemas de reconocimiento de IA de la empresa.
Este problema fue descubierto por primera vez por el ex fotógrafo de la Casa Blanca Pete Souza. Meta etiquetó erróneamente una foto de un juego de baloncesto que tomó como generada por IA. Posteriormente, más fotógrafos informaron de situaciones similares, incluida la foto de los campeones de la Premier League india que estaba mal etiquetada. Curiosamente, estas etiquetas de error sólo aparecen en dispositivos móviles y no en la web.
Lo que es aún más preocupante es que incluso ediciones extremadamente menores podrían activar las etiquetas AI de Meta. PetaPixel informa que usar la herramienta Generative Fill de Adobe Photoshop para eliminar pequeñas manchas de una imagen fue suficiente para que Meta marcara la foto como generada por IA. Esto provocó la protesta de los fotógrafos, quienes argumentaron que un retoque tan leve no debería etiquetarse como generado por IA.
El fotógrafo Noah Kalina expresó su opinión en Threads: "Si una foto 'retocada' está 'hecha con IA', entonces el término efectivamente pierde su significado. Incluso sugirió que si Meta realmente quisiera proteger a los usuarios, ¿por qué no etiquetar cada foto como?" "no es una verdadera representación".
Ante la polémica, la portavoz de Meta, Kate McLaughlin, reconoció que la empresa es consciente del problema y está evaluando sus métodos de etiquetado para reflejar con mayor precisión el alcance del uso de la IA en las imágenes. Meta dijo que se basa en métricas estándar de la industria y está trabajando con otras empresas para mejorar el proceso.
La controversia surge de un plan anunciado por Meta en febrero para agregar una etiqueta "hecha por IA" a las fotografías generadas utilizando herramientas específicas de IA antes de la temporada electoral. Aunque Meta no ha revelado el mecanismo de activación específico, en general se cree en la industria que está relacionado con los metadatos del archivo de imagen.
Con la aplicación generalizada de la tecnología de IA en el procesamiento de imágenes, cómo identificar y etiquetar con precisión el contenido generado por IA se ha convertido en un tema espinoso. La controversia de Meta no sólo refleja las limitaciones de la actual tecnología de reconocimiento de IA, sino que también desencadena un pensamiento profundo de la gente sobre la autenticidad del contenido digital y los derechos de los creadores. Mientras continúa la controversia, la industria espera que Meta mejore su sistema de etiquetado lo antes posible y encuentre un equilibrio entre proteger a los usuarios y respetar a los creadores.
Meta necesita afrontar este incidente y reflexionar seriamente sobre la precisión de su sistema de reconocimiento de IA y la equidad de su algoritmo. Sólo mejorando continuamente la tecnología y comunicándonos activamente con los fotógrafos y otros creadores de contenido podremos finalmente resolver este problema y mantener una buena ecología de Internet.