С 2 августа 2026 года в Европейском союзе изображения, видео, тексты и аудиозаписи, созданные с помощью искусственного интеллекта и предназначенные для имитации реальности, должны будут иметь заметную маркировку.
Новые требования направлены на ограничение распространения поддельного и вводящего в заблуждение контента, созданного с помощью ИИ. Компании, которые не будут соблюдать правила, могут столкнуться с штрафами до 15 млн евро или до 3% от мирового оборота.
Крупнейшие технологические компании, включая Google, Meta и TikTok, уже используют системы маркировки материалов, созданных искусственным интеллектом. Европейская комиссия считает, что такая прозрачность необходима для защиты демократии и сохранения доверия к информации в интернете.
Новые нормы являются частью Европейского закона об искусственном интеллекте (AI Act) и распространяются на новые системы искусственного интеллекта, которые будут выводиться на рынок ЕС с 2 августа.
Уже существующим системам предоставляется дополнительный переходный период — ещё четыре месяца для приведения работы в соответствие с требованиями.
Согласно новым правилам, синтетические тексты, изображения, видео и аудиоматериалы, созданные таким образом, чтобы выглядеть как настоящие, должны иметь явную отметку о том, что они были сгенерированы искусственным интеллектом.
Кроме того, такие материалы должны содержать цифровой водяной знак, позволяющий определить их искусственное происхождение.
Тексты на темы общественного интереса также должны маркироваться как созданные ИИ, если они не прошли проверку человеком-редактором.
Компании будут поощряться к тому, чтобы маркировать и контент, созданный до вступления правил в силу, однако это требование не является обязательным.
Новые нормы не распространяются на личные материалы пользователей. Также исключение предусмотрено для произведений, которые явно являются художественными, сатирическими или вымышленными.
Европейская комиссия разработала специальные чёрно-белые обозначения, которые могут использовать любые компании. При этом организации вправе создавать собственные варианты маркировки.
За нарушение требований компании могут быть оштрафованы на сумму до 15 млн евро либо на сумму, эквивалентную 3% их мирового годового оборота.
В последние годы в сети распространялось множество фальшивых материалов, созданных с целью дискредитации политиков и введения общественности в заблуждение.
Среди таких случаев — аудиозапись, в которой якобы лидер словацкой оппозиции Михал Шимечка обсуждает с журналистом план фальсификации выборов; поддельные видеоролики с президентом Франции Эммануэлем Макроном, где его изображали танцующим в ночном клубе в стиле 1980-х годов; а также фальшивые изображения, на которых бывший лидер Лейбористской партии Великобритании Кир Стармер якобы агрессивно обращается с сотрудниками своей партии.
Представители технологической отрасли в целом поддерживают идею сделать дипфейки и другой контент, созданный ИИ, более заметным для пользователей. Однако они предупреждают, что слишком широкое применение правил может привести к чрезмерному количеству предупреждений и сложностей для бизнеса.
Ассоциация компьютерной и коммуникационной индустрии (CCIA Europe) заявила, что опубликованные ЕС в июле рекомендации значительно расширили определение дипфейков по сравнению с положениями закона об искусственном интеллекте, принятого в 2024 году.
«Маркировка должна была указывать именно на вводящий в заблуждение контент. Это различие было устранено, и теперь практически всё может оказаться под маркировкой — пейзаж в рекламном ролике рассматривается так же, как и манипулированная политическая речь», — заявил представитель CCIA Europe по вопросам политики в сфере ИИ Бонифас де Шампри.
Он предупредил, что, подобно баннерам с уведомлениями о файлах cookie, постоянные предупреждения могут привести к тому, что пользователи перестанут обращать на них внимание.
«Это не защищает людей, а лишь создаёт дополнительную нагрузку на коммерческую деятельность в целом», — отметил де Шампри.
По его мнению, наиболее заметные изменения произойдут не в социальных сетях, которые уже маркируют значительную часть созданного ИИ контента, а в сферах, где искусственный интеллект активно используется без ведома широкой аудитории — например, в рекламе, кинематографе и издательской отрасли.
Некоторые крупнейшие технологические компании уже внедрили собственные механизмы информирования пользователей о материалах, созданных искусственным интеллектом.
TikTok требует от авторов отмечать реалистичные изображения, аудио и видео, созданные с помощью ИИ. Компания утверждает, что помогла промаркировать более 3 млрд материалов.
Google в 2023 году запустила инструмент SynthID, позволяющий определить, было ли изображение создано искусственным интеллектом. Компания заявляет, что нанесла невидимый цифровой водяной знак более чем на 100 млрд изображений, а также на аудиоматериалы общей продолжительностью около 60 тысяч лет.
Google и Meta, владеющая Facebook и Instagram, подписали добровольный кодекс передовой практики, который должен помочь компаниям соблюдать требования ЕС по обеспечению прозрачности в сфере искусственного интеллекта.
По данным Европейской комиссии, этот документ подписали более 180 организаций. Кодекс был разработан независимыми экспертами под контролем Европейского офиса по искусственному интеллекту.
Регуляторы считают подписание документа признаком добросовестного подхода. Организации, которые не присоединились к кодексу, должны будут другими способами доказать соблюдение требований.
Meta ещё в 2024 году внедрила правила, помогающие пользователям распознавать фотореалистичные изображения, созданные ИИ. Компания также работает над техническими стандартами для выявления искусственно созданного аудио- и видеоконтента.
«Необходимо избежать ситуации, когда онлайн-контент будет сопровождаться всё большим количеством различных меток и предупреждений, которые в итоге могут перегрузить пользователей и одновременно усложнить регулирование для поставщиков услуг», — заявил вице-президент Meta по вопросам государственной политики в Европе Маркус Райниш.
Требования по прозрачности являются частью более широкого процесса вступления в силу Европейского закона об искусственном интеллекте, который начинается 2 августа.
Еврокомиссар по вопросам технологической политики Хенна Вирккунен заявила, что искусственный интеллект является «трансформирующей технологией», способной принести «огромные преимущества», однако самые передовые модели создают риски «совершенно нового масштаба».
«Европа заранее подготовилась к этому развитию. Благодаря Регламенту об искусственном интеллекте мы создали чёткую, устойчивую и основанную на оценке рисков систему регулирования для надёжного ИИ — механизм, который обеспечивает разработчикам юридическую определённость и одновременно защищает общественные интересы», — заявила Вирккунен.