Всё о новой маркировке цифрового контента

Вслед за крупнейшими игроками на рынке искусственного интеллекта, в России начнут маркировать контент, созданный нейросетями. Эксперты Центра цифровой экспертизы Роскачества расскажут, как и зачем будет маркироваться ИИ-контент.

Ежегодно отмечается стремительный рост фейков в Сети. Так, по данным АНО «Диалог Регионы», в прошлом году в российском сегменте интернета было зафиксировано 4 тыс. уникальных фейков и 12 млн случаев их распространения.

Эксперты прогнозируют, что в этом году число уникальных фейков достигнет 4,5 тыс., а количество их копий возрастет до 15 млн. В связи с этим требуются срочные меры по регулированию контента, созданного нейросетями.

Новый закон о маркировке

Необходимость принятия закона о маркировке контента, сгенерированного нейросетями, назрела уже давно. Отсутствие подобного регулирования представляет серьезную угрозу безопасности пользователей. Неконтролируемое распространение контента, созданного нейросетями на базе искусственного интеллекта (ИИ), может привести к дезинформации и вызвать панику среди населения.

В Госдуме уже начали разработку закона о маркировке ИИ-контента. На данный момент обсуждается, как именно и в каких случаях будет маркироваться контент, кто должен нести ответственность за его распространение. Будет ли маркировка касаться только контента, распространяемого СМИ, или пользовательского контента, используемого в личных целях.

Справочно

Предполагается, что маркировка будет осуществляться при помощи графических или водяных знаков. Метки будут выглядеть ненавязчиво, но при этом заметно.

В случае принятия закона российские ИИ-сервисы будут обязаны автоматически маркировать сгенерированные тексты. Поэтому таким крупным компаниям, как «Сбер» и «Яндекс», следует уже сейчас задуматься о внедрении технологии маркировки.

Сергей Кузьменко

руководитель Центра цифровой экспертизы Роскачества

Сегодня ИИ-сервисы стали доступны любому человеку, у которого есть устройство с выходом в интернет. Только с помощью специальных программ можно отличить видео, фото и текст, сгенерированные нейросетью. Это создает большие возможности для мошенничества и манипуляций общественным мнением. Соответствующая маркировка цифрового контента поможет пользователям определить, что данные были созданы нейросетью и требуют фактчекинга.
Как регулируют ИИ-контент в разных странах

Вопрос маркировки ИИ-контента сейчас активно обсуждается во всем мире. Евросоюз в своем Законе об ИИ (AI Act) предлагает одну из самых проработанных моделей. Она основана на градации систем ИИ по уровню потенциального риска. Ожидается, что закон вступит в силу не раньше 2025 года.

Американский документ схож с европейским в части требований к разработчикам систем ИИ по прозрачности процессов. Для повышения уровня безопасности разрабатываются соответствующие стандарты, а также руководство по маркировке контента, созданного при помощи нейросетей.

В Китае новый закон будет иметь комплексный характер и охватит широкий спектр вопросов, связанных с ИИ-технологиями. Одним из центральных аспектов регулирования является требование к провайдерам генеративного ИИ маркировать контент специальными водяными знаками. Закон также предусматривает строгие санкции за удаление или сокрытие таких меток.

Кроме того, правительство Китая активно вкладывает средства в развитие отечественных ИИ-технологий, стремясь выйти на передовые позиции в мировой технологической гонке.

Почему важно маркировать цифровой контент

Введение обязательной маркировки контента, созданного нейросетями, несет значительные преимущества для пользователей:

Большинство людей не способны критически воспринимать огромные информационные потоки. Метки помогут пользователям легко и быстро распознавать фейки и избегать их распространения.
Водяной знак или другой вид маркировки будет способствовать осознанному потреблению цифрового контента и снижению риска поддаться на уловки мошенников.
Маркировка служит своего рода страховкой для общества и бизнеса, хотя и не является абсолютной гарантией защиты от дезинформации.

В современном цифровом мире умение различать манипуляции становится жизненно важным для каждого из нас.

Маркировка ИИ-контента – первый шаг к формированию здоровой цифровой экосистемы. Для ее создания необходимо провести масштабную просветительскую кампанию по повышению медиаграмотности и развитию критического мышления у населения.

По-прежнему важно работать с молодым поколением в образовательных учреждениях, а также поддерживать информационные инициативы для старшего поколения. Только таким образом нейросети на базе искусственного интеллекта будут служить интересам общества, а не становиться инструментом манипуляций и обмана.