Злоумышленники встраивают инструкции в ВПО для манипуляции ИИ-анализом

Cisco Talos сообщает о распространении техники, при которой злоумышленники встраивают в вредоносный код инструкции на естественном языке, чтобы повлиять на анализ с помощью искусственного интеллекта. Это могут быть комментарии с просьбой игнорировать файл или классифицировать его как безопасный, а также более сложный приём «распыление шаблонов», нацеленный на определённые большие языковые модели. Talos относит такую активность к категории A3 под названием AI-Analysis Evasion. Исследователи наблюдали её в разных семействах вредоносного ПО и при разном уровне сложности на протяжении последних 18 месяцев. По имеющимся данным, в примерно 35% наблюдавшихся случаев такие инструкции повлияли на вердикт ИИ, обычно склоняя оценку в пользу злоумышленников. Приём недорогой и, по-видимому, применяется всё чаще: злоумышленники рассчитывают, что инструменты на базе ИИ входят в рабочие процессы защитников по анализу вредоносного ПО.

В некоторых случаях манипуляции с ИИ сочетаются с более серьёзными возможностями на уровне системы. Семейство вредоносного ПО MANTLEMAZE, по имеющимся данным, злоупотребляет уязвимыми драйверами, чтобы отключать средства обнаружения и реагирования на конечных точках на уровне ядра. В этом случае обход анализа сочетается с вмешательством в работу средств защиты.

Среди других сообщений об инцидентах упоминается уязвимость Citrix NetScaler CVE-2026-88779. Её описывают как проблему переполнения памяти, которая может привести к отказу в обслуживании. В Дании злоумышленники, по имеющимся данным, получили доступ к государственной базе данных CPR и завладели записями примерно восьми миллионов граждан. Они злоупотребили законными полномочиями датской компании на поиск в этой системе. Кто стоял за атакой, не установили.

Исследователи также наблюдали атаки с использованием программы-вымогателя Warlock против четырёх организаций в Испании и Португалии за два месяца. Среди них были:

• предприятие водоснабжения;
• телекоммуникационный провайдер;
• региональный государственный орган;
• университет.

Google временно ограничила приём сообщений об уязвимостях продуктов в рамках программы вознаграждений за поиск уязвимостей в ПО с открытым исходным кодом. Компания объяснила это большим объёмом недействительных автоматизированных отчётов. Сообщения о цепочке поставок и материалы, отправленные ранее, по имеющимся данным, не пострадали.

Отчет получен из сервиса CTT Report Hub. Права на отчет принадлежат его владельцу.

Ознакомиться подробнее с отчетом можно по ссылке.