МВД РФ: нейросети начали отправлять пользователей на поддельные магазины и фальшивые сайты
Изображение: Saradasish Pradhan (unsplash)
МВД предупредило о новой угрозе, связанной с использованием нейросетей. По данным ведомства, алгоритмы искусственного интеллекта, в том числе ChatGPT, в отдельных случаях направляли пользователей на мошеннические интернет-ресурсы, созданные для кражи денег и персональной информации. Поводом для предупреждения стали результаты исследования сервиса проверки на мошенничество Ask Silver.
В Управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД сообщили, что системы искусственного интеллекта иногда опираются на устаревшие или ошибочные сведения. Из-за этого в рекомендациях, сформированных нейросетями, появлялись ссылки на поддельные интернет-магазины, которые выдавали себя за известные торговые площадки и бренды.
Особое внимание исследователи обратили на сайты-клоны, занимавшиеся продажей мебели и различных товаров. Подобные ресурсы выглядели убедительно за счёт следующих приёмов:
- использование знакомых логотипов и фирменного оформления;
- применение описаний продукции компаний, уже прекративших деятельность;
- обещание крайне выгодных условий покупки;
- размещение скидок, размер которых достигал 80%.
По информации МВД, специалисты связывают появление подобных ссылок с возможным применением метода, известного как «отравление данных». Суть схемы заключается в намеренном насыщении интернета ложными сведениями. Злоумышленники распространяют фальшивые отзывы, публикуют автоматически созданные сообщения на форумах и размещают поддельные материалы, предназначенные для индексации поисковыми системами и алгоритмами обработки информации. Если ложная информация получает достаточное распространение, нейросеть способна воспринимать её как достоверный источник и использовать при формировании ответов пользователям.
В МВД отмечают, что подобные методы становятся ещё одним инструментом цифрового мошенничества, рассчитанным на доверие пользователей к современным технологиям. Многие воспринимают ответы нейросетей как проверенную информацию, хотя сами алгоритмы не всегда способны отличить качественный источник от искусственно продвинутого поддельного сайта.
Для снижения рисков киберполиция рекомендует применять перекрёстную проверку информации. Пользователям советуют сравнивать сведения, полученные от нейросетей, с результатами других поисковых систем, а также по возможности находить первоисточник информации. Особую осторожность следует проявлять при переходе по ссылкам, связанным с покупками, финансовыми операциями и вводом персональных данных.
Проблема неточных рекомендаций уже привлекала внимание крупных технологических компаний. В марте издание The Guardian сообщило, что Google отключила функцию «Что советуют люди», работавшую в поисковом ИИ-сервисе компании. Инструмент собирал и обобщал информацию с форумов и социальных платформ, но пользователи регулярно сталкивались с ошибочными и потенциально опасными советами, связанными со здоровьем.
