La Oficina de Información de Internet del Estado, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Radio y Televisión formularon conjuntamente las "medidas para la generación de contenidos sintéticos de inteligencia artificial". La liberación de esta nueva regulación tiene como objetivo lidiar con los problemas sociales provocados por la inundación actual de contenido generado por IA, especialmente la difusión de alguna información falsa, que afecta el derecho del público a conocer y legítimos derechos e intereses.
Las medidas estipulan claramente que todo el contenido sintético, como el texto, el audio, las imágenes y el video generados por la IA, deben marcarse significativamente en las ubicaciones apropiadas. Esta medida protegerá efectivamente los derechos e intereses legítimos de los ciudadanos, personas legales y otras organizaciones, y salvaguardará los intereses públicos de la sociedad. Los requisitos específicos son los siguientes:
Métodos para identificar contenidos sintéticos en inteligencia artificial
Artículo 1 Para promover el desarrollo saludable de la inteligencia artificial, estandarizar la identificación del contenido sintético de la inteligencia artificial, proteger los derechos e intereses legítimos de los ciudadanos, personas legales y otras organizaciones, y salvaguardar los intereses públicos de la sociedad, estas medidas se formulan en conflicto con la "ley de ciberseguridad de la Regalización de la Pueblo de China". Gestión de síntesis en profundidad de los servicios de información de Internet "," Medidas provisionales para la gestión de servicios generativos de inteligencia artificial "y otras leyes, regulaciones administrativas y regulaciones departamentales.
Article 2 Network information service providers (hereinafter referred to as "service providers") who comply with the circumstances stipulated in the "Regulations on the Recommendation Management of Internet Information Service Algorithm", "Regulations on the In-depth Synthesis Management of Internet Information Services", and "Interim Measures for the Management of Generative Artificial Intelligence Services" will carry out artificial intelligence generation and synthetic content identification activities, and these Measures shall aplicar.
Artículo 3 El contenido de la generación y la síntesis de inteligencia artificial se refiere a información como texto, imágenes, audio, video, escenas virtuales generadas y sintetizadas utilizando tecnología de inteligencia artificial.
La inteligencia artificial genera identificaciones de contenido sintético, incluida la identificación explícita e implícita.
La identificación explícita se refiere a una identificación agregada en el contenido sintético generado o la interfaz de escena interactiva, presentada en texto, sonido, gráficos, etc. y los usuarios pueden percibir claramente.
La identificación implícita se refiere a una identificación que se agrega a los datos generados por las medidas técnicas y los usuarios no lo perciben fácilmente en la producción de datos de archivos de contenido sintético.
Artículo 4 Si los servicios de generación y síntesis proporcionados por el proveedor de servicios se encuentran en las circunstancias del Artículo 17, el párrafo 1 de las "Regulaciones sobre la gestión de la síntesis profunda de los servicios de información de Internet", el contenido de síntesis generado se agregará de la siguiente manera:
(1) Agregue las indicaciones de texto o las indicaciones del símbolo general y otros identificadores al principio, final o en el medio del texto, o agregue identificadores de inmediato significativos a las interfaces de las escenas interactivas y alrededor del texto;
(2) Agregue indicaciones de voz o indicaciones de ritmo de audio y otros signos al principio, final o en el medio del audio, o agregue signos de inmediato significativos a la interfaz de la escena interactiva;
(Iii) Agregue señales de inmediato significativas a la ubicación apropiada de la imagen;
(Iv) Agregue señales rápidas significativas en las ubicaciones apropiadas alrededor de la pantalla de inicio del video y la reproducción de video. Puede agregar signos de inmediato significativos en las ubicaciones apropiadas al final y en el medio del video;
(5) Al presentar una escena virtual, agregue un signo de inmediato significativo en la ubicación apropiada de la pantalla de inicio y agregue un signo de inmediato significativo en la ubicación apropiada durante el servicio continuo de la escena virtual;
(Vi) Otros escenarios de servicio de generación y síntesis agregan marcas de inmediato significativas basadas en sus propias características de aplicación.
Cuando el proveedor de servicios proporciona funciones como descargar, copiar y exportar contenido sintético, debe asegurarse de que el archivo contenga identificadores explícitos que cumplan con los requisitos.
Artículo 5 El proveedor de servicios deberá, de acuerdo con el artículo 16 de las "Regulaciones sobre gestión de síntesis profunda de los servicios de información de Internet", agregar identificadores implícitos a los metadatos del archivo que genera contenido sintético. Los identificadores implícitos incluyen información sobre el elemento de producción, como la información de atributos del contenido sintético generado, el nombre del proveedor de servicios o el número de contenido de codificación.
Se alienta a los proveedores de servicios a agregar identificaciones implícitas, como marcas de agua digitales para generar contenido sintético.
Los metadatos del archivo se refieren a la información descriptiva integrada en el encabezado del archivo en un formato de codificación específico, utilizado para registrar la fuente, los atributos, los usos y otros contenidos de información del archivo.
Los proveedores de servicios del Artículo 6 que proporcionen servicios de difusión de contenido de información de la red tomarán las siguientes medidas para estandarizar la generación y distribución del contenido sintético:
(1) Verifique si los metadatos del archivo contienen identificadores implícitos. Si los metadatos del archivo están claramente marcados como generar contenido sintético, se deben utilizar métodos apropiados para agregar identificadores rápidos significativos en torno al contenido publicado para recordar claramente al público que el contenido pertenece a la generación de contenido sintético;
(2) Si el identificador implícito no se verifica en los metadatos del archivo, pero el usuario declara que debe generar contenido sintético, adoptará métodos apropiados para agregar identificadores rápidos significativos en torno al contenido publicado para recordar al público que el contenido puede generarse contenido sintético;
(3) Si la identificación implícita no se verifica en los metadatos del archivo, y el usuario no ha declarado que genere contenido sintético, pero si el proveedor de servicios que proporciona información de contenido de la red de los servicios de difusión de contenido detectando una identificación explícita u otras trazas de generación de la generación de sintética, se identificará como sospechado de la generación de contenido sintético, y tomará los métodos apropiados para agregar a la identificación significativa a la identificación publicitaria al contenido publicado al contenido de la remedia. contenido sintético;
(Iv) Proporcionar funciones de identificación necesarias y recordar a los usuarios que declaren activamente si el contenido publicado contiene contenido sintético generado.
Si hay situaciones en el primer o tercer elemento del párrafo anterior, la información sobre la información del atributo de contenido sintético generado, el nombre o la codificación de la plataforma de comunicación, el número de contenido y otra información de elementos de comunicación se agregarán a los metadatos del archivo.
Artículo 7 Cuando se lanza o revisa una plataforma de distribución de aplicaciones de Internet en línea, requerirá que el proveedor de servicios de aplicaciones de Internet explique si proporciona servicios de generación de inteligencia artificial y síntesis. Si los proveedores de servicios de aplicaciones de Internet proporcionan servicios de generación y síntesis de inteligencia artificial, la plataforma de distribución de aplicaciones de Internet verificará los materiales relevantes para la generación de identificación de contenido sintético.
Artículo 8 El proveedor de servicios establecerá claramente los métodos, estilos y otras especificaciones para generar la identificación de contenido sintético en el Acuerdo de servicio del usuario, y le pedirá al usuario que lea cuidadosamente y comprenda los requisitos de gestión de identificación relevantes.
Artículo 9 Si un usuario aplica a un proveedor de servicios para proporcionar contenido sintético generado sin identificación explícita, el proveedor de servicios puede proporcionar contenido sintético generado sin una identificación explícita después de aclarar las obligaciones de identificación del usuario y usar responsabilidades a través del acuerdo del usuario, y retener registros relevantes como la información de objetos proporcionado de acuerdo con la ley durante no menos de seis meses.
Artículo 10 Si un usuario usa el servicio de difusión de contenido de información de red para publicar y generar contenido sintético, declarará y utilizará activamente la función de identificación proporcionada por el proveedor de servicios para identificar.
Ninguna organización o individuo puede eliminar maliciosamente, alterar, forjar o ocultar los logotipos de contenido sintético generado estipulados en estas medidas, no proporcionará herramientas o servicios para que otros cometan los actos maliciosos anteriores y no dañen los derechos e intereses legítimos de otros a través de una identificación incorrecta.
Artículo 11 Cuando un proveedor de servicios realiza actividades de identificación, también cumplirá con los requisitos de las leyes relevantes, las regulaciones administrativas, las regulaciones departamentales y las normas nacionales obligatorias.
Artículo 12 Al realizar la presentación de algoritmos, la evaluación de seguridad y otros procedimientos, los proveedores de servicios proporcionarán materiales relevantes para generar la identificación de contenido sintético de acuerdo con estas medidas y fortalecer el intercambio de información de identificación para brindar apoyo y asistencia para prevenir y combatir actividades ilegales y penales relacionadas.
Artículo 13 Si alguna violación de las disposiciones de estas medidas, los departamentos competentes relevantes, como la información de Internet, las telecomunicaciones, la seguridad pública, la radio y la televisión, se tratarán de acuerdo con sus deberes y de acuerdo con las leyes relevantes, las regulaciones administrativas y las regulaciones departamentales.
Artículo 14 Estas medidas entrarán en vigencia el 1 de septiembre de 2025.