Маркировка ИИ-контента: 
что делать бизнесу

Новые поправки начнут действовать уже с 1 марта следующего года. Спросили у юриста Markway, как компаниям подготовиться к реализации нового закона.

Рекомендуем заранее определить, кто в организации будет отвечать за соблюдение новых требований. Специальных штрафов именно за отсутствие предупреждения закон пока не устанавливает. При этом статья 11 предусматривает общую ответственность за нарушения в сфере разработки, внедрения и применения БФМ ИИ в соответствии с отечественным законодательством.

Что должен знать бизнес?

На самом деле никому не запретили использовать нейросети. Текущая версия закона лишь устанавливает правила для больших фундаментальных моделей ИИ и контента, созданного с их применением.

При этом универсальная форма маркировки еще никак не установлена: наполнение и схема размещения определяются соглашением с лицом, предоставляющим возможность применения модели.

Есть ли категории бизнеса, для которых эти требования особенно актуальны?

Статья 9 не привязана к конкретной отрасли или ОКВЭД. Она применяется не потому, что компания является рекламным агентством, интернет-магазином, СМИ или IT-компанией. А в зависимости от того, использует ли она БФМ ИИ для создания соответствующего материала.

Что понимается под “большой фундаментальной моделью ИИ”?

По данным нового закона, большая фундаментальная модель ИИ (БФМ ИИ) — это программа, которая одновременно соответствует нескольким критериям:

Генеративность сама по себе не является критерием. Например, тот факт, что нейросеть умеет генерировать текст, картинку или видео, еще не означает автоматически, что закон на нее распространяется. Само название ChatGPT, Midjourney или другого AI-сервиса также не означает, что любое использование такого сервиса подпадает под статью 9 указанного ФЗ.

Те материалы, которые созданы полностью или частично с использованием алгоритмов. Например, это могут быть сгенерированные ролики, фотореалистичные изображения или нейрослоп, синтетический голос или аудиозапись, дипфейк (от (англ. deep learning — “глубокое обучение” и fake — подделка), AI-аватар. При этом закон не выделяет дипфейки в отдельную категорию: значение имеют характеристики модели и форма материала.

Более того, даже полностью сгенерированный текст без редактуры на данный момент маркировать не нужно. Ключевое значение имеет форма материала.

Нужно ли маркировать изображения, созданные с помощью ИИ?

Да, изображения прямо попадают под сферу действия статьи. Например, сгенерированная фотография для статьи, сайта, поста или рекламного материала. При этом не любое изображение, созданное любой нейросетью, автоматически требует маркировки.

Нужно ли маркировать видео, которое человек снял самостоятельно, но затем изменил с помощью ИИ?

Да, маркировка может потребоваться. По девятой статье важно не то, кто первоначально создал фото или видео, а то, применялась ли при его создании или изменении БФМ ИИ. Юридической разницы между 100% AI-контентом и материалом, где ИИ использован только для отдельных элементов, прямо не установлено.

Если фото существенно измененили, маркировка требуется. Если речь о незначительной технической обработке, например коррекции качества, статья 9 напрямую не устанавливает обязанности маркировать такой материал.

Как закон применяется к синтетическому голосу и цифровым персонажам?

Такой материал относится к голосовой и визуальной форме и потому должен иметь информационный сигнал об использовании ИИ.

Должен ли бизнес маркировать AI-контент, который создается только для внутренних целей?

Нет, отдельная маркировка здесь не требуется. Смысл статьи 9 заключается именно в представлении или распространении информационного материала.

По действующей редакции обязанность возлагается прежде всего на лицо, применяющее алгоритмы для создания материала. Например, это компания, автор, рекламное агентство, площадка или сам разработчик нейросети.

Важный нюанс: девятая статья в текущей редакции сформулирована именно как обязанность обеспечить технические возможности для маркировки, а не как безусловная обязанность каждого пользователя самостоятельно маркировать весь AI-контент.

Если в агентстве создали AI-контент для клиента, кто должен обеспечить маркировку?

Если ИИ применяло именно агентство, обязанность по обеспечению требований относится к агентству. При этом клиент не освобождается от риска автоматически, если он затем распространяет материал. Договором целесообразно прямо определить, кто отвечает за проверку использования ИИ и размещение предупреждения. Агентству стоит предусмотреть в договоре с клиентом отдельный пункт об AI-контенте и маркировке.

Что означает положение о том, что формат предупреждения определяется соглашением?

Закон не устанавливает единый вид маркировки вроде обязательной надписи “Создано ИИ”. Способ предупреждения стороны могут определить договором или пользовательским соглашением с лицом, которое предоставляет доступ к БФМ ИИ. Например, это может быть текст, специальная отметка или значок, водяной знак либо иной технический способ обозначения.

Однако на практике факт использования ИИ может подтверждаться данными ИИ-сервиса и историей генерации, встроенными метаданными и другими способами. При этом неизвестно, какую ответственность будут нести те, кто пытается убрать водяной знак нейросети.

Может ли ИИ-сервис или площадка автоматически маркировать контент?

Да. Девятая статья не запрещает автоматическую маркировку. Напротив, технически предупреждение может формироваться и размещаться самим ИИ-сервисом или площадкой.

Какие обязанности закон устанавливает для крупных сайтов и ИС с аудиторией более 500 тыс. пользователей в сутки?

Разберем потенциальные спорные ситуации, которые могут возникнуть при маркировке материала. Как на это будет смотреть закон?

Представим, что компания попросила ИИ написать пост для соцсетей, а дизайнер создал AI-иллюстрацию. Что именно здесь необходимо маркировать?

Маркировать текст поста не требуется. А вот визуальный материал должен быть снабжен предупреждением.

Компания сняла реальное рекламное видео, но с помощью ИИ изменила фон. Что делать?

Если при изменении реального видео применялась именно БФМ ИИ, обязанность по статье 9 может возникнуть даже при том, что исходное видео полностью снято человеком.

Бренд использует виртуального персонажа для ведения соцсетей. Как его публикации должны маркироваться?

Публикации в этом случае должны сопровождаться информационным предупреждением об использовании ИИ.

На данный момент специального штрафа именно за отсутствие маркировки нет. При этом рекомендуем компаниям со следующего года максимально внимательно отнестись к ИИ-контенту.

Кто сможет установить, что конкретный материал был создан или изменен с применением ИИ?

Пока закон не устанавливает специальный порядок, по которому государство должно технически выявлять AI-контент. Каким требованиям должен соответствовать ИИ-детектор, тоже не определено.

Нужно ли бизнесу фиксировать историю создания контента?

В законе такого требования нет. Однако с практической точки зрения фиксировать эту информацию желательно, особенно для опубликованного контента. В частности, сохранять название модели или сервиса, дату создания и характер использования нейросетей. Это поможет подтвердить, использовалась ли БФМ ИИ и как создавался материал, если возникнет спор.

Сейчас обсуждаются дальнейшие изменения правил маркировки. Что именно предлагается изменить?