Вслед за крупнейшими игроками на рынке искусственного интеллекта, в России начнут маркировать контент, созданный нейросетями. Эксперты Центра цифровой экспертизы Роскачества расскажут, как и зачем будет маркироваться ИИ-контент.
Эксперты прогнозируют, что в этом году число уникальных фейков достигнет 4,5 тыс., а количество их копий возрастет до 15 млн. В связи с этим требуются срочные меры по регулированию контента, созданного нейросетями.
Новый закон о маркировке
Необходимость принятия закона о маркировке контента, сгенерированного нейросетями, назрела уже давно. Отсутствие подобного регулирования представляет серьезную угрозу безопасности пользователей. Неконтролируемое распространение контента, созданного нейросетями на базе искусственного интеллекта (ИИ), может привести к дезинформации и вызвать панику среди населения.
В Госдуме уже начали разработку закона о маркировке ИИ-контента. На данный момент обсуждается, как именно и в каких случаях будет маркироваться контент, кто должен нести ответственность за его распространение. Будет ли маркировка касаться только контента, распространяемого СМИ, или пользовательского контента, используемого в личных целях.
Справочно
Предполагается, что маркировка будет осуществляться при помощи графических или водяных знаков. Метки будут выглядеть ненавязчиво, но при этом заметно.
Сергей Кузьменко
руководитель Центра цифровой экспертизы Роскачества
Сегодня ИИ-сервисы стали доступны любому человеку, у которого есть устройство с выходом в интернет. Только с помощью специальных программ можно отличить видео, фото и текст, сгенерированные нейросетью. Это создает большие возможности для мошенничества и манипуляций общественным мнением. Соответствующая маркировка цифрового контента поможет пользователям определить, что данные были созданы нейросетью и требуют фактчекинга.
Как регулируют ИИ-контент в разных странах
Вопрос маркировки ИИ-контента сейчас активно обсуждается во всем мире. Евросоюз в своем Законе об ИИ (AI Act) предлагает одну из самых проработанных моделей. Она основана на градации систем ИИ по уровню потенциального риска. Ожидается, что закон вступит в силу не раньше 2025 года.
Американский документ схож с европейским в части требований к разработчикам систем ИИ по прозрачности процессов. Для повышения уровня безопасности разрабатываются соответствующие стандарты, а также руководство по маркировке контента, созданного при помощи нейросетей.
Кроме того, правительство Китая активно вкладывает средства в развитие отечественных ИИ-технологий, стремясь выйти на передовые позиции в мировой технологической гонке.
Почему важно маркировать цифровой контент
Введение обязательной маркировки контента, созданного нейросетями, несет значительные преимущества для пользователей:
- Большинство людей не способны критически воспринимать огромные информационные потоки. Метки помогут пользователям легко и быстро распознавать фейки и избегать их распространения.
- Водяной знак или другой вид маркировки будет способствовать осознанному потреблению цифрового контента и снижению риска поддаться на уловки мошенников.
-
Маркировка служит своего рода страховкой для общества и бизнеса, хотя и не является абсолютной гарантией защиты от дезинформации.
В современном цифровом мире умение различать манипуляции становится жизненно важным для каждого из нас.
Маркировка ИИ-контента – первый шаг к формированию здоровой цифровой экосистемы. Для ее создания необходимо провести масштабную просветительскую кампанию по повышению медиаграмотности и развитию критического мышления у населения.
