Владельцев сайтов освободили от обязательной маркировки ИИ-контента после критики бизнеса
Изображение: grok
Из законопроекта Минцифры о регулировании искусственного интеллекта убрали требование к владельцам онлайн-площадок маркировать контент, созданный нейросетями. Норма вызвала резкую критику со стороны маркетплейсов, цифровых платформ и отраслевых экспертов. В новой версии документа обязанность по машиночитаемой маркировке аудиовизуального ИИ-контента переносится на владельцев ИИ-сервисов, а конкретные случаи обязательной маркировки должны определить правительство.
В первоначальной версии законопроекта Минцифры владельцы онлайн-площадок должны были маркировать материалы, созданные с помощью ИИ. Документ предусматривал 2 элемента маркировки:
- видимое обозначение для пользователя при просмотре
- машиночитаемая метка в метаданных файла
- автоматическое определение происхождения системами площадок
- обязательная проверка каждого пользовательского материала
- ответственность платформы за пропущенный ИИ-контент
Идея быстро столкнулась с сопротивлением рынка. Онлайн-площадки заявили о технической и организационной тяжести подобной обязанности. У платформ нет универсального инструмента для точного определения происхождения текста, картинки, видео или аудио. Ошибки в подобной проверке почти неизбежны.
Интересно, что у платформ просто нет надёжного инструмента для отличия ИИ-контента от человеческого, и любая массовая модерация быстро превращается в лотерею.
АНО «Цифровая экономика» с участием крупных цифровых платформ указывала на необходимость ручной модерации огромного объёма контента при выполнении нормы. Автоматизированные системы пока не позволяют с достаточной точностью выявлять ИИ-материалы без участия человека. Для маркетплейсов, соцсетей, видеосервисов и классифайдов это означало бы значительные расходы и рост нагрузки на модераторов.
Директор по стратегическим проектам Института исследований интернета Ирина Левова в комментарии для «Известий» сравнила норму с требованием о маркировке музыки, исполненной на синтезаторе. По словам эксперта, тратить огромные деньги на определение способа создания контента без прямой связи с его качеством бессмысленно. Ирина Левова отметила сохранение в законопроекте обязанности платформы дать пользователям возможность самим сообщить об использовании ИИ при создании материала.
Подобная модель выглядит для рынка намного мягче. Платформа не обязана угадывать происхождение каждого файла, но должна предоставить пользователю инструмент для добровольного раскрытия информации. Часть ответственности переходит к автору контента и снижает риск перестраховки со стороны площадок.
В RWB, объединённой компании Wildberries & Russ, «Известиям» заявили об отсутствии практической ценности у обязательной маркировки для площадок. По мнению компании, мера могла бы усложнить пользовательский опыт и снизить удовлетворённость сервисами. RWB также считает подобные требования способными создавать необоснованные барьеры для уже внедрённых решений.
Отдельная проблема связана с определением самого ИИ-контента. Эксперт НТИ по технологиям искусственного интеллекта Леонид Дробышевич отметил множество спорных ситуаций на практике. Сюда попадают разные пограничные случаи:
- текст, написанный человеком и исправленный нейросетью
- видео с применением ИИ только для шумоподавления
- материалы с ИИ-улучшением качества картинки
- автоматический монтаж исходного человеческого видео
- перевод текста через нейросетевые сервисы
Без понятных технологических критериев платформы оказались бы перед неприятным выбором. Они могли бы модерировать с запасом и помечать спорные материалы. Подобный путь вёл бы к избыточной цензуре и недовольству пользователей. Либо площадки могли бы массово игнорировать спорные случаи, превращая норму в формальность.
В аппарате вице-премьера Дмитрия Григоренко «Известиям» сообщили о смягчении меры по итогам обсуждения с бизнес-сообществом. Согласно текущей версии документа, обязанность по машиночитаемой маркировке аудиовизуального ИИ-контента лежит на владельцах ИИ-сервисов. Правительство отдельно определит случаи обязательной маркировки.
Интересно, что государство сместило ответственность ближе к источнику генерации, и теперь маркировку придётся встроить самим производителям ИИ-сервисов.
Источник «Известий», близкий к правительству, сообщил о цели поправок в снижении нагрузки на бизнес. По данным другого источника, финальный вариант законопроекта планируется внести в Госдуму до середины июля.
Ранее сообщалось об отклонении проекта Минцифры Советом по кодификации при президенте с оценкой «юридически пустого» документа. Эксперты Совета нашли в нём противоречия с действующим законодательством и указали на отсутствие ясной предметной области.
Эксперты редакции CISOCLUB отмечают, что отказ от обязательной маркировки ИИ-контента для владельцев сайтов снимает риск дорогостоящей и плохо работающей модерации. По мнению редакции, для рынка значимее не заставить каждую площадку угадывать происхождение контента, а выстроить понятные правила для ИИ-сервисов, дипфейков и синтетического видео. Государству предстоит точно определить случаи обязательной маркировки, иначе общий принцип останется красивым, но в реальной защите пользователей и бизнеса не сработает. Бизнесу пока стоит готовиться к новым требованиям именно на стороне ИИ-сервисов, поскольку основная регуляторная нагрузка ляжет туда.
