Flashpoint: киберпреступники используют ИИ для дипфейков, фишинга и взломов, а службы ИБ не успевают за скоростью развития угроз
Изображение: recraft
Flashpoint представила отчёт о развитии ИИ-угроз, в котором подробно описала, как киберпреступники используют большие языковые модели, дипфейки и автоматизацию для атак на бизнес.
Один из случаев, зафиксированных специалистами компании, стал наглядной иллюстрацией масштабов проблемы — сотрудник международной корпорации подключился к видеозвонку, участники которого были якобы руководителями. В действительности он оказался единственным человеком на встрече — остальные были синтетическими копиями. После звонка со счёта компании исчезли 25 млн долларов.
Как выяснилось, преступники не просто применяют инструменты на основе ИИ, но и создают собственные модели, обученные на слитых логинах, мошеннических схемах и инструкциях по обходу защиты. Одни системы генерируют правдоподобные фишинговые письма и поддельные счета, другие предоставляют советы по работе с вредоносными программами или рассказывают, как обналичить данные.
Среди значимых направлений, охваченных исследованием, — подпольный рынок подсказок для джейлбрейков. Эти специальные вводные фразы позволяют обойти встроенные механизмы защиты в популярных ИИ-моделях. Готовые подборки продаются с технической поддержкой через Discord и сопровождаются разными тарифами. Часть из них специально предназначена для маскировки, фишинга или подделки банковских операций.
Отдельно исследованы предложения по deepfake-услугам. Продавцы поставляют комплексные решения — синтетическое видео, голос, документы и легенды. Их используют для обхода систем верификации личности, в том числе на платформах, связанных с финансами. Некоторые комплекты содержат подробные сценарии и подложные истории, чтобы повысить правдоподобие.
Flashpoint подчёркивает, что главная угроза — не только в наличии инструментов, но и в их быстрой эволюции. Преступные сообщества активно собирают обратную связь, модернизируют модели, выпускают обновления за считаные дни. Такой цикл позволяет постоянно улучшать качество обмана и расширять применимость разработанных решений.
С учётом этих факторов, перед руководителями служб ИБ стоит задача перехода от реактивной позиции к системной адаптации — с учётом того, как стремительно меняется среда. Контроль за ИИ-угрозами требует постоянного мониторинга, пересмотра процедур верификации, внедрения многофакторных механизмов и быстрого реагирования на сигналы из внешней среды.
