ChatGPT из своих чатов отправляет пользователей на фишинговые сайты

Поисковые системы на базе ИИ постепенно превращаются в инструмент онлайн-шопинга, и этим уже пользуются мошенники. Исследователи Ask Silver выяснили, что ChatGPT при поиске товаров бренда Russell & Bromley иногда выдавал ссылки на поддельные магазины, замаскированные под официальный ресурс компании. Покупатели рисковали не просто потерять деньги за фантомный заказ, а отдать преступникам данные банковских карт.

О схеме стало известно после публикации The Guardian, ссылающейся на разбор Ask Silver. Специалисты сервиса проверяли, что именно бот рекомендует тем, кто ищет сумки и кошельки британской марки. Часть выдачи выглядела безупречно, но за аккуратными карточками товаров скрывались сайты-двойники.

Подделки сделаны на совесть. Скопированы фирменный стиль, логотипы, фотографии коллекций, тексты карточек, структура каталога. Рядовой посетитель не заметит подвоха, пока деньги не уйдут в никуда.

Авторы расследования допускают, что владельцы фейковых витрин подгадали момент. У Russell & Bromley в начале 2026 года менялся собственник, шла перестройка бизнеса, в сети появилась путаница вокруг бренда, и этим воспользовались.

В ходе анализа обнаружился целый куст подозрительных доменов, прикидывающихся официальным магазином:

• therussellbromleyofficial;
• russellandbromleylondon;
• russellbromleyonlineuk;
• russell-and-bromley.

Скидки на этих витринах доходили до 80%, что само по себе сигнал. По наблюдениям аналитиков, рисованные распродажи остаются одним из самых живучих маркеров фейкового ретейла.

Стоит обратить внимание, что для мошенников гораздо ценнее не разовый платёж за несуществующую сумку, а реквизиты карты, которую покупатель сам вводит, будучи уверенным в честности продавца.

Соосновательница Ask Silver Анна Джонс связывает появление таких ссылок с отравлением информационной среды, когда злоумышленники намеренно засеивают сеть ложными данными, чтобы языковые модели приняли их за правду. Метод бьёт точно в слабое место современных ассистентов, которые подтягивают информацию из открытых источников и редко перепроверяют репутацию домена.

Схема выстраивается слоями:

• регистрируется сеть сайтов-клонов с похожими именами;
• закупаются или генерируются положительные отзывы;
• создаются упоминания на форумах и в обсуждениях;
• подделываются сигналы доверия для поисковых алгоритмов;
• ресурсы получают видимость, достаточную для попадания в выдачу ИИ.

Такие приёмы быстро распространяются среди киберпреступных групп. Эксперименты с инфополем идут постоянно, и команды отрабатывают разные способы протолкнуть свои домены туда, откуда крупные модели берут факты.

Интересно, что конечная цель этой возни не классический SEO, а попадание именно в ответы ассистентов, которым пользователи доверяют сильнее, чем десяти синим ссылкам.

Проблема шире одного британского бренда. В прошлом году Cybernews публиковали разбор близкого по смыслу сюжета, когда генеративные системы выдавали ссылки на несуществующие страницы авторизации популярных сервисов. С виду галлюцинация, но злоумышленники быстро сообразили, как её монетизировать.

Алгоритм действий получился простой:

• модель регулярно подсказывает один и тот же фейковый адрес входа;
• мошенники регистрируют этот свободный домен;
• на нём поднимается фишинговая копия настоящего сервиса;
• пользователи идут по ссылке от ИИ и оставляют логины с паролями.

OpenAI после публикации сообщила The Guardian, что выявленные поддельные ресурсы убраны из поискового индекса, и они больше не должны появляться в подсказках. Лечение точечное, причина никуда не делась.

Доверие к ассистентам растёт быстрее, чем привычки безопасности у их аудитории. Раньше преступникам приходилось карабкаться в топ Google, теперь задача сместилась — пролезть в источники, на которые опирается модель. Чем активнее люди будут переносить шопинг и поиск в чат с ботом, тем заметнее будет переток криминальных усилий в эту сторону.

Ранее мы писали о том, что МВД России предупредило о распространении Android-трояна Drama RAT, который злоумышленники маскируют под популярные приложения, модификации для Minecraft и бесплатные версии востребованных сервисов. Вредоносная программа способна похищать персональные данные, получать доступ к банковским приложениям и удалённо блокировать заражённые устройства. О новой угрозе сообщили специалисты Управления по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России.

Также мы писали о том, что OpenAI начала внедрение специального режима защиты для ChatGPT, предназначенного для снижения риска утечки конфиденциальной информации. Новый механизм направлен на противодействие атакам, использующим вредоносные инструкции для получения доступа к чувствительным данным. Решение ориентировано как на корпоративных клиентов, так и на пользователей, работающих с важной информацией, при этом часть стандартных функций системы ограничивается в интересах повышения уровня защиты.

Редакция CISOCLUB уверена, что инцидент с Russell & Bromley станет одним из учебных кейсов для индустрии. Эксперты редакции считают, что разработчикам ИИ-ассистентов придётся срочно встраивать проверку репутации доменов прямо в логику ответов, иначе доверие пользователей будет работать против них самих. Нужны прозрачные механизмы, объясняющие, откуда именно бот взял ту или иную ссылку. Бизнесу стоит пересмотреть подход к мониторингу упоминаний бренда, потому что классические инструменты антифишинга не видят отравление выдачи ассистентов. Пользователям пока остаётся одно проверенное правило — заходить в магазин любимой марки с прямого адреса, а не по подсказке чат-бота. Чем раньше эта привычка укоренится, тем меньше будет жертв у новой волны атак.