Recientemente, se ha desencadenado una nueva controversia en la comunidad tecnológica sobre los límites de la tecnología de inteligencia artificial. El último modelo de IA de Google Gemini2.0flash ha atraído una atención generalizada debido a sus potentes capacidades de procesamiento de imágenes, especialmente su capacidad para eliminar fácilmente las marcas de agua, lo que ha molestado a los titulares y creadores de derechos de autor. La aparición de esta función no solo desafía el mecanismo de protección de derechos de autor existente, sino que también desencadena profundas discusiones sobre la ética de la tecnología de IA.
La semana pasada, Google anunció la expansión del acceso a las capacidades de generación de imágenes del modelo Flash Gemini2.0, lo que permite a más usuarios experimentar sus capacidades avanzadas de edición de imágenes. Sin embargo, esta decisión parece carecer de las restricciones necesarias. Los usuarios pronto descubrieron que Gemini2.0flash no solo puede generar imágenes que contienen celebridades y personajes con derechos de autor, sino también eliminar fácilmente las marcas de agua de las fotos, incluidas marcas de agua profesionales de galerías conocidas como Getty Images. Este descubrimiento rápidamente provocó una acalorada discusión en las redes sociales.
Varios usuarios de X y Reddit confirmaron que después de retirar la marca de agua, Gemini2.0flash también puede completar de manera inteligente las áreas en blanco causadas por la eliminación de la marca de agua. Aunque hay otras herramientas de eliminación de marcas de agua basadas en AI en el mercado, Gemini2.0flash ha tenido un desempeño particularmente bien a este respecto y actualmente es completamente gratuito para los usuarios. Este uso libre de umbral indudablemente aumenta los riesgos potenciales de derechos de autor, lo que se refiere a muchos creadores y titulares de derechos de autor.
Vale la pena señalar que la característica de generación de imágenes de Gemini2.0flash está actualmente marcada como "experimental" y "no usos de producción" por Google y solo está disponible en herramientas orientadas al desarrollador como AI Studio. Sin embargo, el modelo no es perfecto cuando se trata de marcas de agua translúcidas o marcas de agua que cubren áreas más grandes de la imagen. Sin embargo, esto no alivió la ansiedad de los titulares de derechos de autor que temían que esta característica pudiera ser abusada, lo que resultó en la invalidación de la protección contra los derechos de autor.
Por el contrario, los modelos rivales como el soneto Claude 3.7 de Anthrope y el GPT-4O de OpenAI rechazan explícitamente la eliminación de las operaciones de la marca de agua. Claude incluso definió el acto de eliminar las marcas de agua de las imágenes como "poco éticas y potencialmente ilegales". De hecho, según la ley de derechos de autor de EE. UU., Eliminar marcas de agua sin el consentimiento del propietario original generalmente se considera ilegal a menos que haya muy pocas excepciones. La existencia de este marco legal resalta aún más los problemas potenciales de la funcionalidad de Gemini2.0 Flash.
A partir de ahora, Google no ha respondido públicamente a la controversia. Este incidente no solo provocó discusiones sobre los límites de la tecnología de IA, sino que también hizo que las personas repensen cómo encontrar un equilibrio entre el progreso tecnológico y la protección de los derechos del creador. Con el desarrollo continuo de la tecnología de IA, pueden aumentar controversias similares. Cómo formular medidas regulatorias razonables se convertirá en un desafío que enfrenta la futura comunidad tecnológica y los legisladores.