¡La etiqueta "Made with AI" de Meta genera controversia! Varios fotógrafos se han quejado de que Meta etiquetó erróneamente fotos reales que tomaron como imágenes generadas por IA. Este problema implica el uso de software de edición de fotografías. Incluso el simple recorte y compresión pueden activar el algoritmo de Meta y juzgar erróneamente las fotos reales como contenido generado por IA. Este incidente puso de relieve las limitaciones de la tecnología de reconocimiento de imágenes de IA en aplicaciones prácticas y también generó preocupaciones entre los fotógrafos sobre los derechos de autor y la equidad de los algoritmos.
Según se informa, Meta es consciente del problema y está trabajando para mejorar sus algoritmos de reconocimiento de imágenes para identificar con mayor precisión las imágenes generadas por IA. Sin embargo, el método Meta actual todavía tiene deficiencias, lo que causa problemas a las creaciones y trabajos de los fotógrafos. Meta dijo que está trabajando con empresas relevantes para mejorar este proceso, pero aún no se han anunciado soluciones específicas ni cronogramas de mejora. Este incidente también nos recuerda una vez más que a medida que se desarrolla la tecnología de inteligencia artificial, debemos prestar más atención a su potencial ético y social. asuntos.
Según informes de medios extranjeros, varios fotógrafos se quejaron de que Meta añadió por error la etiqueta "Hecho con IA" a las fotos reales que tomaron. Varios fotógrafos han compartido ejemplos en los últimos meses; más recientemente, Meta etiquetó una foto de un juego de baloncesto tomada por el ex fotógrafo de la Casa Blanca Pete Souza como generada por IA.
En otro ejemplo reciente, Meta agregó por error la etiqueta a una foto de Instagram que mostraba a los Kolkata Knight Riders ganando una liga de cricket importante en la India. Curiosamente, al igual que con la foto de Sousa, esta etiqueta solo aparece cuando se ve la imagen en un dispositivo móvil, no en la web.
Souza dijo que intentó y no logró que le quitaran la etiqueta. Especuló que usar la herramienta de recorte de Adobe y comprimir la imagen en formato JPEG podría activar el algoritmo de Meta.
Sin embargo, Meta también etiquetó incorrectamente fotos reales como Hecho con IA cuando los fotógrafos utilizaron herramientas de IA generativa como Generative Fill de Adobe para eliminar los objetos más pequeños, informó PetaPixel. La publicación realizó su propia prueba utilizando la herramienta Generar relleno de Photoshop para eliminar una mancha en una imagen, que luego Meta marcó en Instagram como generada por IA. Curiosamente, sin embargo, cuando PetaPixel volvió a cargar el archivo en Photoshop y luego lo copió y pegó en un documento negro para guardarlo, Meta no agregó la etiqueta "Hecho con IA". Varios fotógrafos han expresado su descontento porque ediciones menores de este tipo han sido etiquetadas injustamente como generadas por IA.
El fotógrafo Noah Kalina escribió en Threads: "Si todas las fotos 'retocadas' estuvieran etiquetadas como 'Hechas con IA', entonces el término efectivamente no tendría sentido. Si se tomaran en serio la protección de las personas, automáticamente podrían dar a todas las fotos etiquetadas como 'no una representación real'. '."
La portavoz de Meta, Kate McLaughlin, dijo en un comunicado que la empresa es consciente del problema y está evaluando su enfoque "para que nuestras etiquetas reflejen la cantidad de IA utilizada en las imágenes". Confiamos en que otras empresas utilicen la misma tecnología en sus herramientas. Se incluyen métricas estándar de la industria, por lo que estamos trabajando activamente con estas empresas para mejorar este proceso y alinear nuestro enfoque de etiquetado con nuestra intención”, añadió McLaughlin.
En febrero, Meta anunció que agregaría una etiqueta "Hecho con IA" a las fotos cargadas en Facebook, Instagram y Threads antes de la temporada electoral de este año. Específicamente, la compañía dijo que agregará etiquetas a las fotografías de IA generadas con herramientas como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
Meta no reveló qué desencadenó la etiqueta "Hecho con IA", pero todas estas empresas han agregado o están en proceso de agregar metadatos a los archivos de imagen para indicar el uso de herramientas de IA, que es la forma en que Meta identifica los archivos generados por IA. fotos. Adobe, por ejemplo, lanzó el año pasado su sistema de credenciales de contenido, que agrega información sobre el origen del contenido a los metadatos.
Destacar:
- Varios fotógrafos se quejaron de que Meta etiquetó incorrectamente fotos reales como "Hechas con IA".
- Las fotos creadas con herramientas de edición parecen verse afectadas.
- Meta también etiquetó incorrectamente fotos reales como Hecho con IA cuando se utilizan herramientas de IA generativa.
La respuesta de Meta a esta pregunta indica que están trabajando para mejorar sus algoritmos y reducir los falsos positivos. Pero esto también expone las limitaciones de la tecnología de IA en el reconocimiento de imágenes y los posibles impactos negativos en las aplicaciones prácticas. Cómo equilibrar el desarrollo tecnológico y la protección de los derechos de los usuarios sigue siendo un problema que requiere atención y resolución continuas.