El gobierno español aprobó recientemente un nuevo proyecto de ley histórico destinado a fortalecer la regulación de la inteligencia artificial (IA) generó contenido, especialmente para el contenido de "falsificación profunda" que no está correctamente marcado. Este movimiento se ve como un paso importante para combatir información falsa y proteger los intereses del público.
El Ministro de Transformación Digital, Oscar López, elaboró en el fondo y el propósito del proyecto de ley en una conferencia de prensa. Dijo que la formulación del proyecto de ley se refiere a la Ley de Inteligencia Artificial de la Unión Europea y enfatiza particularmente los estrictos requisitos de transparencia para los sistemas de inteligencia artificial de alto riesgo. López señaló que, aunque la tecnología de inteligencia artificial ha traído muchas comodidades al desarrollo social, también puede ser abusado y convertirse en una herramienta para difundir la información errónea y atacar la democracia.
Notas de fuente de imagen: La imagen es generada por AI y el proveedor de servicios autorizado de imagen MidJourney
López explicó además que la tecnología de "falsificación profunda" es extremadamente engañosa al editar o generar videos, fotos y audio, disfrazándose de contenido real. Cualquiera puede ser víctima de esta tecnología, por lo que el gobierno debe tomar medidas sólidas para abordar este desafío. El nuevo proyecto de ley establece claramente que la incapacidad de etiquetar adecuadamente el contenido generado por la IA se considerará "seriamente ilegal" y puede enfrentar multas de hasta € 35 millones (aproximadamente US $ 38.2 millones) o la cantidad calculada en función del 7% de la facturación anual global de la compañía.
Además, el proyecto de ley también prohíbe la manipulación potencial, como el uso de tecnología subconsciente para afectar a grupos vulnerables. López da un ejemplo de que algunos chatbots pueden inducir tendencias de juego a participar en el juego, mientras que algunos juguetes pueden guiar a los niños a participar en actividades peligrosas. Estos comportamientos no solo violan la moralidad, sino que también pueden tener impactos de largo alcance en la sociedad.
Otra disposición importante del proyecto de ley es prohibir a las instituciones usar inteligencia artificial para clasificar o calificar a las personas a través de datos biométricos, lo que afectará su probabilidad de obtener beneficios sociales o evaluar el riesgo de delitos. Sin embargo, según las consideraciones de seguridad nacional, el monitoreo biométrico en tiempo real todavía está permitido en lugares públicos. Esta disposición busca un equilibrio entre proteger la privacidad personal y mantener la seguridad pública.
La implementación del nuevo proyecto de ley estará sujeta a la recientemente establecida reguladora de IA Aesia, pero los reguladores relevantes serán responsables de la administración en situaciones específicas que involucren privacidad de datos, delitos, elecciones, calificaciones crediticias, seguros y mercados de capitales. El proyecto de ley aún necesita la aprobación de la Cámara de los Comunes antes de que pueda entrar en vigencia oficialmente. Una vez aprobado, España se convertirá en uno de los primeros países de la UE en implementar esta serie de regulaciones.
En general, este nuevo proyecto de ley en español no solo proporciona un marco legal para el uso normativo de la tecnología de inteligencia artificial, sino que también proporciona una referencia importante para otros países y regiones en la respuesta a desafíos similares. A través de estrictos requisitos regulatorios y de transparencia, el gobierno español espera prevenir efectivamente sus riesgos potenciales y proteger los intereses del público al tiempo que promueve la innovación tecnológica.