Le Bureau de l'information sur Internet de l'État, le ministère de l'industrie et des technologies de l'information, le ministère de la Sécurité publique et l'administration de l'État de la radio et de la télévision ont conjointement formulé les "mesures pour la génération du contenu synthétique de l'intelligence artificielle". La publication de ce nouveau règlement vise à faire face aux problèmes sociaux provoqués par l'inondation actuelle de contenu généré par l'IA, en particulier la diffusion de certaines fausses informations, ce qui affecte le droit du public à connaître et à légitimer les droits et les intérêts.
Les mesures stipulent clairement que tous les contenus synthétiques tels que le texte, l'audio, les images et la vidéo générés par l'IA doivent être marqués de manière significative dans des endroits appropriés. Cette mesure protégera efficacement les droits et intérêts légitimes des citoyens, des personnes juridiques et d'autres organisations et protégera les intérêts publics de la société. Les exigences spécifiques sont les suivantes:
Méthodes d'identification du contenu synthétique en intelligence artificielle
Article 1 In order to promote the healthy development of artificial intelligence, standardize the identification of synthetic content of artificial intelligence, protect the legitimate rights and interests of citizens, legal persons and other organizations, and safeguard the public interests of society, these Measures are formulated in accordance with the "Cybersecurity Law of the People's Republic of China", "Regulations on the Recommendation Management of Internet Information Service Algorithm", "Regulations on La gestion approfondie de la synthèse des services d'information sur Internet "," des mesures provisoires pour la gestion des services de renseignement artificiel génératifs "et d'autres lois, réglementations administratives et réglementations ministérielles.
L'article 2 Les fournisseurs de services d'information du réseau (ci-après dénommés "fournisseurs de services") qui se conforment aux circonstances stipulées dans les "Règlements sur la gestion des recommandations de l'algorithme de services d'information sur Internet", les "réglementations sur la gestion approfondie de la synthèse des services d'information sur Internet" et les "mesures intérimaires pour la gestion des activités de contenu artificiel et synthétique de la gestion de l'intelligence artificielle.
Article 3 Le contenu de la génération et de la synthèse de l'intelligence artificielle fait référence à des informations telles que le texte, les images, l'audio, la vidéo, les scènes virtuelles générées et synthétisées à l'aide de la technologie de l'intelligence artificielle.
L'intelligence artificielle génère des identifications de contenu synthétique, notamment une identification explicite et implicite.
L'identification explicite fait référence à une identification ajoutée dans le contenu synthétique généré ou l'interface de scène interactive, présentée dans le texte, le son, les graphiques, etc. et peut être clairement perçu par les utilisateurs.
L'identification implicite fait référence à une identification qui est ajoutée aux données générées par des mesures techniques et n'est pas facilement perçue par les utilisateurs dans la production de données de fichiers de contenu synthétiques.
Article 4 Si les services de génération et de synthèse fournis par le fournisseur de services relèvent des circonstances de l'article 17, le paragraphe 1 des "Règlement sur la gestion de la synthèse profonde des services d'information sur Internet", le contenu de synthèse généré doit être ajouté comme suit:
(1) ajouter des invites de texte ou des invites de symboles générales et d'autres identifiants au début, à la fin ou au milieu du texte, ou ajoutez des identificateurs invites significatifs aux interfaces des scènes interactives et autour du texte;
(2) ajouter des invites vocales ou des invites de rythme audio et d'autres signes au début, à la fin ou au milieu de l'audio, ou ajoutez des signes d'invite significatifs à l'interface de scène interactive;
(Iii) ajouter des panneaux invites significatifs à l'emplacement approprié de l'image;
(Iv) Ajouter des panneaux d'invite significatifs aux emplacements appropriés autour de l'écran de démarrage vidéo et de la lecture vidéo. Vous pouvez ajouter des signes rapides importants à des emplacements appropriés à la fin et au milieu de la vidéo;
(5) Lors de la présentation d'une scène virtuelle, ajoutez un panneau d'invite significatif à l'emplacement approprié de l'écran de départ et ajoutez un panneau d'invite significatif à l'emplacement approprié pendant le service continu de la scène virtuelle;
(Vi) Les autres scénarios de service de génération et de synthèse ajoutent des marques rapides importantes en fonction de leurs propres caractéristiques d'application.
Lorsque le fournisseur de services fournit des fonctions telles que le téléchargement, la copie et l'exportation de contenu synthétique, il doit s'assurer que le fichier contient des identifiants explicites qui répondent aux exigences.
Article 5 Le fournisseur de services doit, conformément à l'article 16 des «Règlements sur la gestion de la synthèse profonde des services d'information sur Internet», ajouter des identifiants implicites aux métadonnées du fichier qui génèrent du contenu synthétique. Les identifiants implicites incluent des informations sur l'élément de production telles que les informations d'attribut du contenu synthétique généré, le nom du fournisseur de services ou le numéro de contenu encoding.
Les fournisseurs de services sont encouragés à ajouter des identifications implicites telles que les filigranes numériques pour générer du contenu synthétique.
Les métadonnées de fichier se réfèrent aux informations descriptives intégrées dans l'en-tête de fichier dans un format de codage spécifique, utilisé pour enregistrer la source, les attributs, les utilisations et autres contenus d'informations du fichier.
Article 6 Les prestataires de services qui fournissent des services de diffusion de contenu d'informations sur le réseau doivent prendre les mesures suivantes pour normaliser la génération et la distribution du contenu synthétique:
(1) Vérifiez si les métadonnées du fichier contient des identifiants implicites. Si les métadonnées de fichier sont clairement marquées comme générant du contenu synthétique, des méthodes appropriées doivent être utilisées pour ajouter des identificateurs invites importants autour du contenu publié pour rappeler clairement au public que le contenu appartient à la génération de contenu synthétique;
(2) Si l'identifiant implicite n'est pas vérifié dans les métadonnées du fichier, mais que l'utilisateur déclare qu'il doit générer du contenu synthétique, il doit adopter des méthodes appropriées pour ajouter des identificateurs invites importants autour du contenu publié pour rappeler au public que le contenu peut être généré du contenu synthétique;
(3) Si l'identification implicite n'est pas vérifiée dans les métadonnées du fichier, et que l'utilisateur ne l'a pas déclaré générer du contenu synthétique, mais si le fournisseur de services fournissant des services de dissémination de contenu du réseau, il sera identifié comme soupçonné de générer du contenu synthétique, et prendra des méthodes appropriées pour ajouter une identification importante concernant le contenu publié pour le contenu publique pour la prétendue des méthodes appropriées pour inviter une invitation importante concernant le contenu publié pour le contenu pour le contenu de la suspension de la suspension appropriée pour inviter une invitation importante autour du contenu publié pour le contenu pour le contenu de la suspension de la suspension appropriée pour inviter à Invite Invite pour le contenu Publié pour le contenu pour le public pour la présagé générer du contenu synthétique;
(Iv) Fournir les fonctions d'identification nécessaires et rappeler aux utilisateurs de déclarer activement si le contenu publié contient du contenu synthétique généré.
S'il y a des situations dans les premier à troisième éléments du paragraphe précédent, des informations sur les informations d'attribut de contenu synthétique générées, le nom ou le codage de la plate-forme de communication, le numéro de contenu et d'autres informations sur les éléments de communication doivent être ajoutés aux métadonnées du fichier.
Article 7 Lorsqu'une plate-forme de distribution des applications Internet est lancée ou examinée en ligne, elle doit exiger que le fournisseur de services d'application Internet explique s'il fournit des services de génération et de synthèse d'intelligence artificielle. Si les fournisseurs de services d'application Internet fournissent des services de génération et de synthèse d'intelligence artificielle, la plate-forme de distribution des applications Internet doit vérifier les matériaux pertinents pour la génération d'identification de contenu synthétique.
Article 8 Le fournisseur de services doit clairement indiquer les méthodes, les styles et autres spécifications de la génération d'identification de contenu synthétique dans le contrat de service utilisateur, et incite l'utilisateur à lire attentivement et à comprendre les exigences de gestion de l'identification pertinentes.
Article 9 Si un utilisateur s'applique à un fournisseur de services pour fournir un contenu synthétique généré sans identification explicite, le fournisseur de services peut fournir un contenu synthétique généré sans identification explicite après avoir clarifié les obligations d'identification de l'utilisateur et utiliser les responsabilités par le biais de l'accord d'utilisateur, et conserver les journaux pertinents tels que les informations d'objet fournies conformément à la loi pendant pas moins de six mois.
Article 10 Si un utilisateur utilise le service de diffusion de contenu d'informations réseau pour publier et générer du contenu synthétique, il déclare activement et utilise la fonction d'identification fournie par le fournisseur de services pour identifier.
Aucune organisation ou individu ne peut supprimer, altérer, falsifier, forger ou cacher des logos de contenu synthétique générés stipulées dans ces mesures, ne fournira pas d'outils ou de services aux autres pour commettre les actes malveillants ci-dessus et ne endommage pas les droits et intérêts légitimes des autres grâce à une identification incorrecte.
Article 11 Lorsqu'un fournisseur de services effectue des activités d'identification, il doit également être conforme aux exigences des lois pertinentes, des réglementations administratives, des réglementations ministérielles et des normes nationales obligatoires.
Article 12 Lors de l'exécution du dépôt d'algorithmes, de l'évaluation de la sécurité et d'autres procédures, les prestataires de services doivent fournir des matériaux pertinents pour générer l'identification du contenu synthétique conformément à ces mesures, et renforcer le partage d'informations d'identification pour fournir un soutien et une assistance pour prévenir et lutter contre les activités illégales et criminelles connexes.
Article 13 Si une violation des dispositions de ces mesures, les départements compétents pertinents tels que les informations sur Internet, les télécommunications, la sécurité publique, la radio et la télévision seront traités conformément à leurs fonctions et conformément aux lois pertinentes, aux règlements administratifs et aux réglementations ministérielles.
Article 14 Ces mesures entrent en vigueur le 1er septembre 2025.