Государственное информационное бюро Интернета, Министерство промышленности и информационных технологий, Министерство общественной безопасности и государственное управление радио и телевидением совместно сформулировало «меры для генерации синтетического содержимого искусственного интеллекта». Выпуск этого нового регулирования направлен на решение социальных проблем, вызванных нынешним наводнением контента, сгенерированного AI, особенно распространения некоторой ложной информации, которая влияет на право общественности знать и законные права и интересы.
Меры явно предусматривают, что весь синтетический контент, такой как текст, аудио, изображения и видео, сгенерированные ИИ, должны быть значительно отмечены в соответствующих местах. Эта мера будет эффективно защищать законные права и интересы граждан, юридических лиц и других организаций, а также защищать общественные интересы общества. Конкретные требования следующие:
Методы идентификации синтетического содержания в искусственном интеллекте
Статья 1, чтобы содействовать здоровому развитию искусственного интеллекта, стандартизировать определение синтетического содержания искусственного интеллекта, защитить законные права и интересы граждан, юридических лиц и других организаций и защищать общественные интересы общества, эти меры разработаны в соответствии с «Закон о цибербетности Народной Республики», «Рекомендация по Рекомендации по Рекомендации по рекомендации по рекомендации по рекомендации в области Рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации по рекомендации в области Рекомендации по рекомендации Управление синтезом интернет -информационных услуг »,« Промежуточные меры для управления генеративными услугами искусственного интеллекта »и другие законы, административные нормы и правила департамента.
Article 2 Network information service providers (hereinafter referred to as "service providers") who comply with the circumstances stipulated in the "Regulations on the Recommendation Management of Internet Information Service Algorithm", "Regulations on the In-depth Synthesis Management of Internet Information Services", and "Interim Measures for the Management of Generative Artificial Intelligence Services" will carry out artificial intelligence generation and synthetic content identification activities, and these Measures shall apply.
Статья 3 Содержание генерации и синтеза искусственного интеллекта относится к такой информации, как текст, изображения, аудио, видео, виртуальные сцены, сгенерированные и синтезируемые с использованием технологии искусственного интеллекта.
Искусственный интеллект генерирует идентификацию синтетического содержания, включая явную и неявную идентификацию.
Явная идентификация относится к идентификации, добавленной в сгенерированном синтетическом содержании или интерактивном интерфейсе сцены, представленной в тексте, звуке, графике и т. Д., И может быть четко воспринято пользователями.
Неявная идентификация относится к идентификации, которая добавляется к данным, сгенерированным техническими показателями, и ее нелегко воспринимать пользователи при производстве данных файлов синтетического содержимого.
Статья 4 Если Услуги генерации и синтеза, предоставленные поставщиком услуг, подпадают под обстоятельства статьи 17, пункт 1 «Правила по глубокому синтезу управления услугами интернет -информационных услуг», сгенерированное содержание синтеза должно быть добавлено следующим образом:
(1) Добавить текстовые подсказки или общие подсказки символа и другие идентификаторы в начале, конец или в середине текста или добавьте значительные идентификаторы подсказки к интерфейсам интерактивных сцен и вокруг текста;
(2) Добавьте голосовые подсказки или аудио -ритм подсказки и другие знаки в начале, конец или в середине звука, или добавьте значительные знаки подсказки к интерфейсу интерактивной сцены;
(Iii) добавить значительные знаки подсказки в соответствующее местоположение изображения;
(Iv) Добавьте значительные знаки подсказки в соответствующих местах вокруг видеоразового экрана и воспроизведения видео. Вы можете добавить значительные знаки присказы в соответствующих местах в конце и в середине видео;
(5) При представлении виртуальной сцены добавьте значительный знак подсказования в соответствующем месте стартового экрана и добавьте значительный знак подсказования в соответствующем месте во время непрерывного обслуживания виртуальной сцены;
(Vi) Другие сценарии сервисов поколения и синтеза добавляют значительные оценки на основе их собственных характеристик приложения.
Когда поставщик услуг предоставляет такие функции, как загрузка, копирование и экспорт синтетического содержания, он должен убедиться, что файл содержит явные идентификаторы, которые соответствуют требованиям.
Статья 5 Поставщик услуг должен, в соответствии со статьей 16 «Положения по глубокому синтезу управления информационными услугами Интернета», добавить неявные идентификаторы в метаданные файла, которые генерируют синтетическое содержание. Неявные идентификаторы включают информацию о производственном элементе, такой как информация о атрибуте сгенерированного синтетического контента, имя поставщика услуг или кодирование, номер контента.
Поставщикам услуг рекомендуется добавлять неявные идентификации, такие как цифровые водяные знаки, для создания синтетического содержания.
Метаданные файла относится к описательной информации, встроенной в заголовок файла в определенном формате кодирования, используемой для записи источника, атрибутов, использования и других информационных содержимого файла.
Статья 6 Поставщики услуг, которые предоставляют услуги по распространению контента сетевого информации, должны принять следующие меры для стандартизации генерации и распространения синтетического контента:
(1) Убедитесь, содержит ли метаданные файла неявные идентификаторы. Если метаданные файла четко обозначены как генерирование синтетического содержания, следует использовать соответствующие методы для добавления значительных оперативных идентификаторов вокруг опубликованного контента, чтобы четко напомнить общественности, что содержание принадлежит к созданию синтетического содержания;
(2) Если неявный идентификатор не проверяется в метаданных файлах, но пользователь заявляет, что он должен генерировать синтетическое содержание, он должен принять соответствующие методы для добавления значительных оперативных идентификаторов вокруг опубликованного контента, чтобы напомнить общественности, что содержание может быть сгенерировано синтетическим содержанием;
(3) Если неявная идентификация не проверяется в метаданных файлах, и пользователь не объявил, что она генерирует синтетическое содержание, но если поставщик услуг, предоставляющий услуги по распространению контента с сетью, обнаружит явную идентификацию или другие следы генерации синтетического содержания, это будет идентифицировано как подозрительное из создания синтетического содержания, и будет предпринять соответствующие методы. синтетическое содержание;
(Iv) предоставить необходимые идентификационные функции и напомнить пользователям активно объявлять, содержит ли опубликованный контент сгенерированный синтетический контент.
Если в первом по третьем пункте есть ситуации в предыдущем абзаце, информация о сгенерированной информации о атрибуте синтетического контента, имени коммуникационной платформы или кодировании, номере контента и другой информации элемента связи в метаданные файла.
Статья 7 Когда платформа распределения интернет -приложений будет запущена или просмотрена в Интернете, она должна потребовать от поставщика услуг приложений интернет -приложений объяснить, предоставляет ли она услуги искусственного интеллекта генерации и синтеза. Если поставщики услуг интернет -приложений предоставляют услуги генерации и синтеза искусственного интеллекта, платформа распределения приложений в Интернете должна проверить соответствующие материалы для генерации идентификации синтетического контента.
Статья 8 Поставщик услуг должен четко указать методы, стили и другие спецификации генерации идентификации синтетического контента в Соглашении об обслуживании пользователя и побуждают пользователя тщательно прочитать и понять соответствующие требования к управлению идентификацией.
Статья 9 Если пользователь применяется к поставщику услуг для предоставления сгенерированного синтетического контента без явной идентификации, поставщик услуг может предоставить сгенерированное синтетическое содержание без явного идентификации после прояснения обязательств и идентификации пользователя и использовать обязанности не менее чем за шесть месяцев.
Статья 10 Если пользователь использует Службу распространения контента сетевого информации для публикации и генерации синтетического контента, он должен активно объявлять и использовать функцию идентификации, предоставленную поставщиком услуг для идентификации.
Ни одна организация или человек не могут злонамеренно удалять, подделываться, подделываться или скрывать сгенерированные логотипы синтетического контента, предусмотренные в этих мерах, не должны предоставлять инструменты или услуги для других для совершения вышеупомянутых злонамеренных действий и не должны наносить ущерб законным правам и интересам других из -за неправильной идентификации.
Статья 11 Когда поставщик услуг выполняет идентификационную деятельность, она также должна соблюдать требования соответствующих законов, административных норм, правил департамента и обязательных национальных стандартов.
Статья 12 При выполнении алгоритма, оценке безопасности и других процедурах, поставщики услуг должны предоставлять соответствующие материалы для создания идентификации синтетического содержания в соответствии с этими мерами и усиления обмена идентификационной информации для обеспечения поддержки и помощи в предотвращении и борьбе с соответствующими незаконными и преступными деятельностью.
Статья 13 Если какое -либо нарушение положений этих мер, соответствующие компетентные департаменты, такие как информация об интернете, телекоммуникации, общественная безопасность, радио и телевидение, должны рассматриваться в соответствии с их обязанностями и в соответствии с соответствующими законами, административными правилами и правилами департамента.
Статья 14 Эти меры вступают в силу 1 сентября 2025 года.