Хакеры обманом заставили ИИ компании Meta раскрыть пароли популярных аккаунтов Instagram

Хакеры получили доступ к крупным аккаунтам Instagram, среди которых страница Белого дома эпохи Обамы, корпоративный профиль Sephora и аккаунт главного старшего сержанта Космических сил США. Серверы Meta никто не ломал, программных дыр не искали. Достаточно оказалось переговоров с ИИ-помощником компании, которого уговорили выполнить нужные операции.

В марте Meta расширила автоматизированную поддержку для пользователей Facebook и Instagram, переложив на нейросеть восстановление доступа, смену паролей и выполнение ряда других задач, ранее закреплённых за людьми. Та самая автоматизация и оказалась слабым звеном всей конструкции.

В Telegram-каналах исследователей безопасности несколько суток расходились видеозаписи с разбором схемы. Атакующие обращались к Meta AI с просьбой сменить адрес электронной почты, привязанный к нужному профилю, после чего бот запускал процедуру подтверждения личности.

Любопытно, что в ряде случаев ИИ-помощник просил пройти видеоидентификацию на селфи-видео, а злоумышленники подсовывали ему ролики, сгенерированные с помощью генеративных моделей. Нейросеть проверяла нейросеть и пропускала запрос дальше.

Из-за успешной верификации система меняла e-mail на адрес, контролируемый посторонним человеком. Дальше владельца просто отрезали от собственной страницы.

Другой вариант атаки выглядел ещё проще. Издание 404 Media описывает последовательность так:

• подключение через VPN с IP-адресом страны или региона владельца профиля;
• запуск штатной процедуры восстановления пароля;
• переход в чат с Meta AI;
• просьба привязать новый адрес электронной почты к конкретному аккаунту Instagram;
• получение кода подтверждения уже на ящик атакующего.

Бот воспринимал такую инструкцию как обычный пользовательский запрос и спокойно её исполнял. Местами схема позволяла обходить даже двухфакторную аутентификацию, которую принято считать последним рубежом обороны после утечки пароля.

Среди жертв оказался аккаунт @obamawhitehouse, оставшийся со времён администрации 44-го президента США. Официальные структуры им давно не пользовались, но 2,4 млн подписчиков никуда не делись. После захвата на странице появились сгенерированные ИИ изображения и сообщения на арабском языке. Одна из публикаций содержала политическое заявление о контроле над Белым домом, что сразу привлекло внимание общественности.

Также под удар попали корпоративный профиль Sephora и аккаунт главного старшего сержанта Космических сил США. Исследователи допускают, что пострадавших гораздо больше, точные цифры пока не озвучены.

Информация о проблеме циркулировала с марта. В отдельных Telegram-каналах метод обсуждался месяцами, выкладывались пошаговые инструкции:

• использование VPN под нужный регион;
• запуск восстановления пароля;
• разговор с ИИ-чатом поддержки;
• убеждение бота сменить привязанный e-mail;
• финальный перехват кода подтверждения.

На первый взгляд атака выглядит почти анекдотически. Никаких эксплойтов нулевого дня, никаких дорогих инструментов, обычная беседа с чат-ботом. Но за этим стоит новая реальность эпохи генеративных моделей.

Социальная инженерия раньше била по людям. Злоумышленники уговаривали операторов колл-центров, сотрудников техподдержки, самих владельцев аккаунтов. Сейчас объектом манипуляции становится сама ИИ-система, у которой нет ни усталости, ни интуиции, ни внутреннего сигнала о подозрительности запроса.

Стоит обратить внимание на то, что Meta AI фактически оказался в роли уступчивого сотрудника поддержки, согласившегося нарушить собственные процедуры. Разница лишь в том, что у нейросети есть прямой доступ к функциям управления учётными записями платформы с миллиардами пользователей.

Расследование осложнялось ещё одним нюансом. По данным исследователей, отдельные элементы инфраструктуры вели себя по-разному для живых пользователей и автоматизированных средств анализа:

• часть запросов отдавала разный ответ в зависимости от характеристик клиента;
• некоторые шаги процедуры маскировались под легитимный пользовательский трафик;
• логирование действий бота не давало полной картины происходящего;
• сторонние сканеры не фиксировали аномалий.

Это затягивало обнаружение проблемы и продлевало жизнь схемы. После публикаций в СМИ Meta среагировала. Руководитель коммуникаций компании Энди Стоун сообщил, что проблема устранена и идёт работа по защите затронутых профилей.

Случившееся подстегнуло разговор о передаче чувствительных функций нейросети. Запуская обновлённую поддержку, Meta уверяла, что ИИ быстрее заметит подозрительные действия, проанализирует странные изменения и предотвратит угоны. По факту вышло наоборот, помощник получил доступ к инфраструктуре управления учётками без необходимого набора предохранителей.

Глава продуктового направления X Никита Бир назвал произошедшее, возможно, крупнейшим инцидентом безопасности за всю историю Facebook и Meta. В самой компании с такой оценкой не согласны, но сам факт обсуждения в подобных категориях говорит о масштабе.

Ранее сообщалось, что хакеры превратили страницы ChatGPT в ловушки для распространения вредоносов. Специалисты Push Security зафиксировали фишинговую кампанию, где поддельные страницы размещались прямо внутри легитимной инфраструктуры ChatGPT. Жертв уводили на сторонние ресурсы и подсовывали вредоносный исполняемый файл под видом настольного приложения. Схема работала за счёт доверия защитных систем к домену популярного чат-бота.

Эксперты редакции CISOCLUB отмечают, что инцидент с Meta AI стал поворотной точкой в отношении бизнеса к автоматизированной поддержке. Передача нейросети права менять привязанные адреса и обходить штатные проверки выглядит управленческой ошибкой, а не технологическим прорывом. ИИ-помощник без жёстких ограничений превращается в открытую дверь для любого, кто умеет грамотно сформулировать запрос.

Компаниям, которые сейчас планируют похожие внедрения, стоит закладывать в архитектуру обязательную верификацию через человека для критичных операций с учётными записями. Аутентификация по селфи-видео в эпоху дешёвой генерации лиц перестала работать, и пересматривать её придётся всему рынку. Уверены, что в ближайшие месяцы регуляторы заинтересуются тем, в какие принципы платформы делегируют ИИ права на работу с пользовательскими данными.

* Корпорация Meta, владеющая Facebook и Instagram, признана экстремистской организацией и запрещена на территории Российской Федерации.