O Escritório Estadual de Informações da Internet, o Ministério da Indústria e Tecnologia da Informação, o Ministério da Segurança Pública e a Administração Estadual de Rádio e Televisão formularam em conjunto as "medidas para a geração de conteúdo sintético de inteligência artificial". A liberação desse novo regulamento visa lidar com os problemas sociais provocados pela atual inundação de conteúdo gerado pela IA, especialmente com a disseminação de algumas informações falsas, que afetam o direito do público de conhecer e legítimos direitos e interesses.
As medidas estipulam claramente que todo o conteúdo sintético, como texto, áudio, imagens e vídeo gerado pela IA, deve ser marcado significativamente em locais apropriados. Essa medida protegerá efetivamente os direitos e interesses legítimos dos cidadãos, pessoas jurídicas e outras organizações e salvaguardam os interesses públicos da sociedade. Os requisitos específicos são os seguintes:
Métodos para identificar o conteúdo sintético na inteligência artificial
Artigo 1 Para promover o desenvolvimento saudável da inteligência artificial, padronizar a identificação do conteúdo sintético da inteligência artificial, proteger os direitos e interesses legítimos dos cidadãos, pessoas jurídicas e outras organizações e salvaguardas da sociedade da Sociedade, a Lei da República da Sociedade ", em conformidade com a regulamentação" da regulamentação do povo da República da China "," Cybersecury Lei da República Popular da China "" " O gerenciamento aprofundado da síntese de serviços de informação da Internet "," Medidas intermediárias para o gerenciamento de serviços generativos de inteligência artificial "e outras leis, regulamentos administrativos e regulamentos departamentais.
Artigo 2 Os provedores de serviços de informações de rede (a seguir denominados "provedores de serviços") que cumprem as circunstâncias estipuladas nos "regulamentos sobre o gerenciamento de recomendação de algoritmo de serviço de informação da Internet", "Regulamentos sobre o gerenciamento de síntese de síntese e os serviços de informação da Internet" e "Medidas intermediárias para a gestão do gerenciamento generativo de inteligência artificial generativa" aplicar.
Artigo 3 O conteúdo da geração e síntese de inteligência artificial refere -se a informações como texto, imagens, áudio, vídeo, cenas virtuais geradas e sintetizadas usando a tecnologia de inteligência artificial.
A inteligência artificial gera identificações de conteúdo sintético, incluindo identificação explícita e implícita.
A identificação explícita refere -se a uma identificação adicionada no conteúdo sintético gerado ou na interface de cena interativa, apresentada em texto, som, gráficos etc. e pode ser claramente percebido pelos usuários.
A identificação implícita refere -se a uma identificação adicionada aos dados gerados por medidas técnicas e não é facilmente percebida pelos usuários na produção de dados de arquivo de conteúdo sintético.
Artigo 4 Se os serviços de geração e síntese fornecidos pelo provedor de serviços se enquadram nas circunstâncias do artigo 17, parágrafo 1 dos "regulamentos sobre gerenciamento de síntese profunda dos serviços de informação da Internet", o conteúdo de síntese gerado deve ser adicionado da seguinte forma:
(1) Adicione solicitações de texto ou avisos de símbolo geral e outros identificadores no início, final ou no meio do texto, ou adicione identificadores prompts significativos às interfaces das cenas interativas e ao redor do texto;
(2) Adicione os prompts de voz ou os avisos de ritmo de áudio e outros sinais no início, final ou no meio do áudio, ou adicione sinais rápidos significativos à interface de cena interativa;
(Iii) adicione sinais rápidos significativos à localização apropriada da figura;
(Iv) Adicione sinais de prompt significativos em locais apropriados em torno da tela inicial e reprodução de vídeo. Você pode adicionar sinais de prompt significativos nos locais apropriados no final e no meio do vídeo;
(5) Ao apresentar uma cena virtual, adicione um sinal de prompt significativo no local apropriado da tela inicial e adicione um sinal de prompt significativo no local apropriado durante o serviço contínuo da cena virtual;
(Vi) Outras cenários de serviço de geração e síntese adicionam marcas de prompts significativas com base em suas próprias características de aplicação.
Quando o provedor de serviços fornece funções como baixar, copiar e exportar conteúdo sintético, deve garantir que o arquivo contenha identificadores explícitos que atendam aos requisitos.
Artigo 5 O provedor de serviços deve, de acordo com o artigo 16 dos "regulamentos sobre gerenciamento de síntese profundo dos serviços de informação da Internet", adicionar identificadores implícitos aos metadados do arquivo que geram conteúdo sintético. Os identificadores implícitos incluem informações sobre o elemento de produção, como as informações de atributo do conteúdo sintético gerado, o nome do provedor de serviços ou a codificação, número de conteúdo.
Os provedores de serviços são incentivados a adicionar identificações implícitas, como marcas d'água digitais para gerar conteúdo sintético.
Os metadados do arquivo referem -se a informações descritivas incorporadas no cabeçalho do arquivo em um formato de codificação específico, usado para gravar a origem, atributos, usos e outros conteúdos de informação do arquivo.
Artigo 6 Os provedores de serviços que fornecem serviços de disseminação de conteúdo de informações de rede devem tomar as seguintes medidas para padronizar a geração e a distribuição do conteúdo sintético:
(1) Verifique se os metadados do arquivo contém identificadores implícitos. Se os metadados do arquivo estiverem claramente marcados como geração de conteúdo sintético, os métodos apropriados devem ser usados para adicionar identificadores prompts significativos em torno do conteúdo publicado para lembrar claramente ao público que o conteúdo pertence à geração de conteúdo sintético;
(2) Se o identificador implícito não for verificado nos metadados do arquivo, mas o usuário declara que é para gerar conteúdo sintético, adotará métodos apropriados para adicionar identificadores prompts significativos em torno do conteúdo publicado para lembrar ao público que o conteúdo pode ser gerado conteúdo sintético;
(3) If the implicit identification is not verified in the file metadata, and the user has not declared it to generate synthetic content, but if the service provider providing network information content dissemination services detects an explicit identification or other traces of generation of synthetic content, it will be identified as suspected of generating synthetic content, and will take appropriate methods to add significant prompt identification around the published content to remind the public that the content is suspected de geração de conteúdo sintético;
(Iv) Forneça as funções de identificação necessárias e lembram aos usuários que declarem ativamente se o conteúdo publicado contém conteúdo sintético gerado.
Se houver alguma situação nos primeiros a terceiros itens do parágrafo anterior, as informações sobre o conteúdo sintético gerado atribuem informações, nome da plataforma de comunicação ou codificação, número de conteúdo e outras informações do elemento de comunicação devem ser adicionadas aos metadados do arquivo.
Artigo 7 Quando uma plataforma de distribuição de aplicativos da Internet for lançada ou revisada on -line, exigirá que o provedor de serviços de aplicativos da Internet explique se fornece serviços de geração e síntese de inteligência artificial. Se os provedores de serviços de aplicativos da Internet fornecerem serviços de geração e síntese de inteligência artificial, a plataforma de distribuição de aplicativos da Internet deve verificar os materiais relevantes para a geração de identificação de conteúdo sintético.
Artigo 8 O provedor de serviços deve declarar claramente os métodos, estilos e outras especificações para gerar identificação de conteúdo sintético no Contrato de Serviço do Usuário e solicitar ao usuário ler com cuidado e entender os requisitos de gerenciamento de identificação relevantes.
Artigo 9 Se um usuário se aplicar a um provedor de serviços para fornecer conteúdo sintético gerado sem identificação explícita, o provedor de serviços poderá fornecer conteúdo sintético gerado sem identificação explícita após esclarecer as obrigações de identificação do usuário e usar responsabilidades por meio do contrato do usuário e reter registros relevantes, como as informações fornecidas pelo objeto em conformidade com a lei por não menos de seis meses.
Artigo 10 Se um usuário usar o serviço de disseminação de conteúdo de informações de rede para publicar e gerar conteúdo sintético, ele deverá declarar e usar ativamente a função de identificação fornecida pelo provedor de serviços para identificar.
Nenhuma organização ou indivíduo pode excluir maliciosamente, violar, forjar ou ocultar os logotipos de conteúdo sintético gerado estipulado nessas medidas, não fornecerão ferramentas ou serviços para que outras pessoas cometessem os atos maliciosos acima e não prejudiquem os direitos e interesses legítimos de outras pessoas através da identificação inadequada.
Artigo 11 Quando um provedor de serviços realiza atividades de identificação, também deve cumprir os requisitos de leis relevantes, regulamentos administrativos, regulamentos departamentais e padrões nacionais obrigatórios.
Artigo 12 Ao executar o arquivamento do algoritmo, avaliação de segurança e outros procedimentos, os prestadores de serviços devem fornecer materiais relevantes para gerar identificação de conteúdo sintético de acordo com essas medidas e fortalecer o compartilhamento de informações de identificação para fornecer suporte e assistência na prevenção e combate a atividades ilegais e criminais relacionadas.
Artigo 13 Se alguma violação das disposições dessas medidas, os departamentos competentes relevantes, como informações da Internet, telecomunicações, segurança pública, rádio e televisão, serão tratados de acordo com suas funções e de acordo com leis relevantes, regulamentos administrativos e regulamentos departamentais.
Artigo 14 Esta medidas entrará em vigor em 1º de setembro de 2025.