주 인터넷 정보 사무소, 산업 정보 기술부, 공공 안보부 및 국영 관리국은 "인공 지능의 합성 내용 생성을위한 조치"를 공동으로 공식적으로 공식화했습니다. 이 새로운 규정의 석방은 현재 AI 생성 내용의 홍수, 특히 일부 허위 정보의 보급에 의해 제기 된 사회적 문제를 다루는 것을 목표로하며, 이는 대중의 알 수있는 권리와 합법적 인 권리와 이익에 영향을 미칩니다.
이 측정은 AI에서 생성 한 텍스트, 오디오, 사진 및 비디오와 같은 모든 합성 내용이 적절한 위치에 크게 표시되어야한다고 분명히 규정하고 있습니다. 이 조치는 시민, 법률 인자 및 기타 조직의 정당한 권리와 이익을 효과적으로 보호하고 사회의 공익을 보호 할 것입니다. 특정 요구 사항은 다음과 같습니다.
인공 지능에서 합성 내용물을 식별하는 방법
제 1 조는 인공 지능의 건전한 발전을 촉진하고, 인공 지능의 합성 내용의 식별을 표준화하고, 시민, 법적 인력 및 기타 조직의 정당한 권리와 이익을 보호하며, 사회의 공익을 보호하기 위해 이러한 조치는 "중국 사람들의 공화국의 사이버 보안 법", "인터넷 정보 서비스의 규제에 따라" "", 인터넷 정보 개요의 규제에 따라 공식화된다. 인터넷 정보 서비스의 심층적 인 합성 관리 ","생성 인공 지능 서비스 관리를위한 중간 조치 "및 기타 법률, 행정 규정 및 부서 규정.
제 2 조 네트워크 정보 서비스 제공 업체 (인터넷 정보 서비스 알고리즘의 권장 관리에 관한 규정”, "인터넷 정보 서비스의 심층적 인 합성 관리에 대한 규정"및 "생성 인공 지능 서비스 관리를위한 중간 조치"및 합성 컨텐츠 적용을위한 중간 조치 및 합성 컨텐츠 적용을위한 임시 측정 및 "및"생성 인공 지능 서비스의 중간 측정 "및"인터넷 정보 서비스 알고리즘의 권장 관리 "," "서비스 제공 업체"라고 언급).
제 3 조 인공 지능 생성 및 합성의 내용은 인공 지능 기술을 사용하여 생성 및 합성 된 텍스트, 그림, 오디오, 비디오, 가상 장면과 같은 정보를 말합니다.
인공 지능은 명시 적 및 암시 적 식별을 포함한 합성 내용 식별을 생성합니다.
명시 적 식별은 생성 된 합성 컨텐츠 또는 대화식 장면 인터페이스에 추가 된 식별을 말하고 텍스트, 사운드, 그래픽 등으로 제시되며 사용자가 명확하게 인식 할 수 있습니다.
암시 적 식별은 기술적 측정에 의해 생성 된 데이터에 추가되고 합성 컨텐츠 파일 데이터 생산에서 사용자가 쉽게 인식하지 못하는 식별을 말합니다.
제 4 조 서비스 제공 업체가 제공 한 생성 및 합성 서비스가 "인터넷 정보 서비스의 심층 합성 관리에 관한 규정"의 17 조의 상황에 속하는 경우, 생성 된 합성 내용은 다음과 같이 추가되어야한다.
(1) 텍스트의 시작, 끝 또는 중간에 텍스트 프롬프트 또는 일반 기호 프롬프트 및 기타 식별자를 추가하거나 대화 형 장면의 인터페이스와 텍스트 주변에 상당한 프롬프트 식별자를 추가합니다.
(2) 오디오의 시작, 끝 또는 중간에 음성 프롬프트 또는 오디오 리듬 프롬프트 및 기타 표시를 추가하거나 대화식 장면 인터페이스에 상당한 프롬프트 표시를 추가합니다.
(iii) 그림의 적절한 위치에 상당한 프롬프트 징후를 추가합니다.
(iv) 비디오 시작 화면 및 비디오 재생 주변의 적절한 위치에 상당한 프롬프트 표시를 추가하십시오. 비디오의 끝과 중간에 적절한 위치에 상당한 프롬프트 표시를 추가 할 수 있습니다.
(5) 가상 장면을 제시 할 때 시작 화면의 적절한 위치에 상당한 프롬프트 부호를 추가하고 가상 장면의 지속적인 서비스 중에 적절한 위치에 중요한 프롬프트 부호를 추가하십시오.
(vi) 다른 생성 및 합성 서비스 시나리오는 자체 응용 특성에 따라 상당한 프롬프트 마크를 추가합니다.
서비스 제공 업체가 합성 컨텐츠 다운로드, 복사 및 내보내기와 같은 기능을 제공하면 파일에 요구 사항을 충족하는 명시 적 식별자가 포함되어 있는지 확인해야합니다.
제 5 조 서비스 제공 업체는 "인터넷 정보 서비스의 심층 합성 관리에 관한 규정"제 16 조에 따라 합성 컨텐츠를 생성하는 파일 메타 데이터에 암시 적 식별자를 추가해야한다. 암시 적 식별자에는 생성 된 합성 컨텐츠의 속성 정보, 서비스 제공 업체의 이름 또는 인코딩, 컨텐츠 번호와 같은 생산 요소에 대한 정보가 포함됩니다.
서비스 제공 업체는 합성 콘텐츠를 생성하기 위해 Digital Watermarks와 같은 암시 적 식별을 추가하는 것이 좋습니다.
File Metadata는 파일 헤더에 내장 된 설명 정보가 특정 인코딩 형식의 소스, 속성, 용도 및 기타 정보 내용을 녹음하는 데 사용됩니다.
네트워크 정보 컨텐츠 보급 서비스를 제공하는 서비스 제공 업체는 합성 컨텐츠의 생성 및 배포를 표준화하기 위해 다음 조치를 취해야합니다.
(1) 파일 메타 데이터에 암시 적 식별자가 포함되어 있는지 확인하십시오. 파일 메타 데이터가 합성 내용을 생성하는 것으로 명확하게 표시되는 경우, 적절한 방법을 사용하여 게시 된 컨텐츠 주위에 상당한 프롬프트 식별자를 추가하여 컨텐츠가 합성 내용을 생성하는 데 속한다는 것을 명확하게 상기시켜야합니다.
(2) 암시 적 식별자가 파일 메타 데이터에서 검증되지 않았지만 사용자는 합성 내용을 생성한다고 선언하는 경우, 공개 된 컨텐츠 주위에 상당한 신속한 식별자를 추가하여 컨텐츠가 합성 컨텐츠를 생성 할 수 있음을 상기시키기 위해 적절한 방법을 채택해야합니다.
(3) 암시 적 식별이 파일 메타 데이터에서 검증되지 않았고 사용자가 합성 내용을 생성하라고 선언하지 않았지만 네트워크 정보 컨텐츠 보급 서비스를 제공하는 서비스 제공 업체가 명시 적 식별 또는 다른 생성 합성 컨텐츠를 감지하는 경우 합성 내용을 의심하는 것으로 의심되는 것으로 의심되는 합성 컨텐츠에 대한 상당한 신속한 식별을 추가 할 것입니다. 콘텐츠;
(iv) 필요한 식별 기능을 제공하고 사용자에게 게시 된 컨텐츠에 생성 된 합성 내용이 포함되어 있는지 적극적으로 선언하도록 상기시킵니다.
이전 단락의 첫 번째 내지 세 번째 항목에 어떤 상황이 있으면 생성 된 합성 내용 속성 정보, 통신 플랫폼 이름 또는 인코딩, 컨텐츠 번호 및 기타 통신 요소 정보에 대한 정보는 파일 메타 데이터에 추가되어야합니다.
제 7 조 인터넷 애플리케이션 배포 플랫폼이 온라인으로 시작되거나 검토 될 때 인터넷 애플리케이션 서비스 제공 업체는 인공 지능 생성 및 합성 서비스를 제공하는지 여부를 설명해야합니다. 인터넷 애플리케이션 서비스 제공 업체가 인공 지능 생성 및 합성 서비스를 제공하는 경우 인터넷 응용 프로그램 배포 플랫폼은 합성 컨텐츠 식별 생성과 관련 자료를 확인해야합니다.
제 8 조 서비스 제공 업체는 사용자 서비스 계약에서 합성 컨텐츠 식별을 생성하는 방법, 스타일 및 기타 사양을 명확하게 명시하고 사용자가 신중하게 읽고 관련 식별 관리 요구 사항을 이해하도록 촉구해야합니다.
제 9 조는 사용자가 서비스 제공 업체에 신청하여 명시 적 식별없이 생성 된 합성 컨텐츠를 제공하는 경우, 서비스 제공 업체는 사용자 계약을 통해 사용자의 식별 의무를 명확히 한 후 명시 적 식별없이 생성 된 합성 컨텐츠를 제공하고 6 개월 이상 법률에 따라 제공된 객체 정보와 같은 관련 로그를 유지할 수 있습니다.
제 10 조 사용자가 네트워크 정보 컨텐츠 보급 서비스를 사용하여 합성 컨텐츠를 게시하고 생성하는 경우 서비스 제공 업체가 제공 한 식별 기능을 적극적으로 선언하고 사용하여 식별해야합니다.
이러한 조치에 규정 된 생성 된 합성 컨텐츠 로고를 악의적으로 삭제, 변조, 위조 또는 숨기는 조직이나 개인은 다른 사람이 위의 악성 행위를 저지르는 도구 나 서비스를 제공하지 않으며 부적절한 식별을 통해 다른 사람의 합법적 인 권리와 이익을 손상시키지 않아야합니다.
제 11 조 서비스 제공 업체가 신분증 활동을 수행 할 때, 또한 관련 법률, 행정 규정, 부서 규정 및 필수 국가 표준의 요구 사항을 준수해야합니다.
제 12 조 알고리즘 제출, 보안 평가 및 기타 절차를 수행 할 때, 서비스 제공 업체는 이러한 조치에 따라 합성 컨텐츠 식별을 생성하기위한 관련 자료를 제공하고 관련 불법 및 범죄 활동을 방지하고 퇴치하는 지원 및 지원을 제공하기 위해 식별 정보 공유를 강화해야합니다.
제 13 조, 이러한 조치의 조항을 위반 한 경우 인터넷 정보, 통신, 공공 보안, 라디오 및 텔레비전과 같은 관련 유능한 부서는 의무에 따라 관련 법률, 행정 규정 및 부서 규정에 따라 처리됩니다.
제 14 조이 조치는 2025 년 9 월 1 일에 시행됩니다.