OpenAI заявила, что пресекла пророссийский план по распространению дезинформации в ChatGPT

OpenAI пресекла информационную операцию, которую компания связывает с пророссийскими лицами. Злоумышленники использовали аккаунты ChatGPT, социальные сети и сайт под названием International Burke Institute, чтобы выдать пропагандистские материалы за работу независимого аналитического центра. Итоговая цель кампании заключалась в том, чтобы сформировать у западной аудитории благоприятный образ России и представить страны Запада слабыми, разобщенными и зависимыми от чужих интересов на международной арене.

Сайт IBI выглядел как полноценный исследовательский центр с научными публикациями, списком экспертов и собственным индексом оценки государств. Операторы кампании раскручивали получившуюся площадку через автоматизацию и материалы, подготовленные при участии ChatGPT.

Учетные записи ChatGPT получали инструкции убирать из текстов языковые признаки русского происхождения. Несмотря на это в одном из материалов немецкая коалиция получила название Svetofor coalition, а слово «светофор» встречается в нескольких славянских языках и в русском тоже. Эта деталь указывает на подготовку исходных текстов на славянском языке с последующим переводом на английский.

Связанные с операцией аккаунты продвигали публикации IBI в X, LinkedIn, Facebook, Substack и Telegram. Нейросеть в этой схеме выполняла сразу несколько функций:

• готовила тексты для сайта и социальных сетей;
• рисовала изображения и подписи к публикациям;
• отвечала за часть аккаунтов на комментарии пользователей на Substack;
• присылала операторам отчёты об эффективности страниц на русском языке.

Операторы регулярно запрашивали у ChatGPT статистику по своим страницам, причем делали это на русском языке. Нейросеть также использовалась для создания похожих аватаров для нескольких профилей.

Отмечается, что часть рутинной работы, которая раньше требовала отдельной команды людей, теперь выполняется одной моделью без устали и почти без затрат.

Схема с фейковым институтом опасна не только для западной аудитории. Российские пользователи точно так же рискуют наткнуться на подобные псевдоэкспертные площадки, где под видом независимого анализа публикуются заранее подготовленные выводы, только уже с обратным знаком.

Центральным элементом сайта стал Burke Sovereignty Index. Создатели представили его как систему оценки государств по политике, экономике, технологиям, информационной среде, культуре, когнитивным показателям и военной мощи. Методика вызывает вопросы уже на первый взгляд. Ватикан с территорией меньше 0,5 кв.км обошёл Испанию по среднему показателю, а России достался максимальный балл по военной составляющей и один из лучших результатов по информационной среде, хотя методика подсчёта этих категорий нигде подробно не раскрывалась.

В списке экспертов IBI фигурировали известные имена без реального отношения к работе института:

• политолог Фрэнсис Фукуяма;
• лингвист Ноам Хомский;
• экс-госсекретарь США Майк Помпео;
• политолог Джозеф Най;
• скончавшиеся до появления сайта Шломо Авинери и Цзян Пин.

Часть научных материалов на сайте действительно существовала, но авторство нередко приписывалось не тем людям. Реальные исследования просто ставили рядом с чужими фамилиями и выдавали за продукцию собственного экспертного сообщества.

Уточняется, что для убедительной информационной площадки не обязательно нужен сложный взлом, достаточно грамотно собрать настоящие элементы в ложную конструкцию и добавить автоматизированное продвижение.

OpenAI оценивает прямой эффект кампании как ограниченный. Отдельные Telegram-каналы, связанные с продвижением материалов, набрали от 10 000 до 20 000 подписчиков, а массового изменения общественных настроений на Западе компания не фиксирует.

OpenAI сообщила, что выявила и заблокировала все учётные записи ChatGPT, связанные с этой кампанией. Само разоблачение не гарантирует исчезновение подобных схем, поскольку запуск нового псевдоэкспертного сайта с генеративными инструментами обходится дешевле и занимает меньше времени, чем несколько лет назад.

На фальшивое происхождение проекта указывал целый набор деталей:

• неловкий перевод названия немецкой коалиции;
• странная транслитерация отдельных терминов;
• сомнительная методика собственного индекса;
• научные работы, приписанные не тем авторам;
• эксперты, которые к моменту запуска сайта уже умерли.

Похожие механики уже применяются и на русскоязычных площадках, где фейковые эксперты и накрученная статистика ничуть не хуже маскируют источник информации. Отдельные каналы выдают за экспертов реальных людей без их ведома, а подписчиков и вовлеченность накручивают ботами почти так же, как это делали операторы IBI. Проверять авторство и методику исследований стоит независимо от языка публикации и политической окраски выводов.

При встрече с малоизвестным аналитическим центром в сети стоит проверить несколько вещей:

• реальное существование указанных экспертов и их согласие на упоминание;
• оригинальные источники приведенных исследований;
• срок существования домена и данные его регистрации;
• аккаунты в соцсетях на предмет однотипной автоматической активности.

Ранее сообщалось, что генеральный директор OpenAI Сэм Альтман заявил о своей обеспокоенности перспективой мира, в котором развитие искусственного интеллекта окажется сосредоточено в руках нескольких крупных компаний. По его мнению, такая концентрация может лишить общество возможности влиять на то, как ИИ будет менять окружающий мир.

Эксперты CISOCLUB считают, что случай с International Burke Institute показывает смену самой механики информационных операций. Нейросеть в этой схеме не была самостоятельным автором, а выступала ускорителем, которому поручили подготовку текстов, изображений и обслуживание десятков аккаунтов. Такой инструмент снижает стоимость запуска подобных проектов и позволяет быстро создавать новые псевдоэкспертные площадки взамен заблокированных.

По их мнению, дешевизна создания качественной имитации экспертизы будет и дальше подталкивать похожие группы к использованию генеративных моделей. Специалисты рекомендуют относиться с осторожностью к любым малоизвестным аналитическим центрам, чьи выводы слишком удобно совпадают с интересами одной стороны конфликта.

* Корпорация Meta, владеющая Facebook, признана экстремистской организацией и запрещена на территории Российской Федерации.