Модель Grok от X используется хакерами для обхода фильтров и распространения вредоносных ссылок
Mariia Shalabaieva (unsplash), изображение
Злоумышленники нашли способ использовать встроенного в платформу X (ранее Twitter) искусственного помощника Grok для обхода систем фильтрации ссылок и распространения вредоносной рекламы. Об этом сообщил исследователь Нати Тал из Guardio Labs, выявивший новую схему манипуляции, уже получившую название «гроккинг».
По данным исследователя, мошенники публикуют ролики сомнительного содержания — чаще всего с провокационными или псевдоэротическими заголовками — но не вставляют ссылку напрямую в текст публикации. Вместо этого вредоносный URL маскируется в поле «От:» под видеокартой. Это поле служит для отображения имени источника контента, и, судя по всему, автоматические механизмы X его не сканируют на предмет вредоносной активности.
После публикации подставные аккаунты — или, вероятно, те же организаторы схемы — задают Grok в комментариях наивные вопросы вроде: «Откуда это видео?» или «Где ссылка?». Grok, будучи настроен на анализ контекста и метаданных, извлекает скрытую ссылку из поля «От:» и отвечает с кликабельной ссылкой. Таким образом, вредоносный URL обходит первичную фильтрацию и получает легитимизацию за счёт того, что распространяется от системного ИИ-аккаунта X.
Публикация от имени Grok автоматически повышает доверие к сообщению: платформа считает его «встроенной» функцией, что усиливает SEO-показатели, увеличивает охват и репутационный вес ссылки. Это создаёт иллюзию безопасности, повышает вовлечённость пользователей и резко увеличивает вероятность перехода по ссылке.
Исследование показало, что многие из таких ссылок ведут через теневые рекламные сети на фишинговые страницы, поддельные CAPTCHA-тесты и сайты с вредоносным ПО, предназначенным для кражи персональных данных. В ряде случаев использовались скрипты для установки программ, имитирующих системные обновления или защитное ПО, что делало атаку особенно опасной для неподготовленных пользователей.
Нати Тал отметил, что текущая архитектура Grok не содержит механизмов фильтрации ссылок, упомянутых в ответах на пользовательские запросы. Это позволяет ИИ-помощнику неосознанно ретранслировать вредоносные материалы, даже не распознавая их как опасные. Исследователь передал свои выводы в X, и, по его словам, инженеры Grok ознакомились с отчётом, хотя официального ответа от компании пока не поступало.
Возможные меры защиты, по мнению экспертов, должны предполагать:
- сканирование всех полей метаданных, включая «От:»;
- блокировку ссылок, скрытых вне основного текста;
- реализацию фильтров в Grok, препятствующих автоматическому ретвиту или публикации подозрительных URL;
- проверку всех ссылок через базы вредоносных доменов перед отображением пользователю.
Ситуация поднимает острый вопрос о рисках, связанных с интеграцией ИИ в открытые социальные платформы. При отсутствии дополнительных уровней контроля ИИ-инструменты могут неосознанно использоваться для усиления кибератак и распространения вредоносного контента.
