Попытка компрометации цепочки поставок NPM через ИИ-фишинг

Недавняя кампания фишинга, в которой злоумышленники использовали контент, сгенерированный искусственным интеллектом, продемонстрировала высокий уровень изощрённости и поставила под угрозу цепочку поставок ПО, в первую очередь экосистему NPM. В отличие от типичных массовых рассылок с очевидными ошибками, атака опиралась на чистую инфраструктуру и почти безупречную имитацию легитимных ресурсов.

Суть инцидента

Атака использовала домен npmjs.help, который выглядел как надежная и правдоподобная инфраструктура. Получателям пришло электронное письмо, в котором по оценкам аналитиков «70–80% контента можно отнести к искусственному интеллекту». Такое интенсивное применение NLP позволило письму пройти первичную проверку и снизить подозрительность со стороны пользователей.

Как происходила атака

• Жертва получала письмо, стилистика и язык которого были созданы с помощью ИИ и выглядели натурально;
• В письме содержалась ссылка на поддельный сайт, точную копию легитимной страницы входа в NPM;
• В письме также был встроен вредоносный JavaScript-пакет с запутанным кодом;
• После установки пакет внедрял в систему браузерный перехватчик, активирующийся при загрузке страницы;
• Перехватчик взаимодействовал с критически важными веб-API и собирал учетные данные пользователя;
• Собранные данные эксфильтровались на конечную точку websocket-api2.publicvm.com.

Технические детали

Ключевые технические элементы атаки включали:

• использование правдоподобного домена (npmjs.help) и точной визуальной копии страницы входа в NPM для снижения уровня подозрений;
• встроенный вредоносный JavaScript-пакет, содержащий запутанный код и устанавливающий перехватчик на стороне клиента;
• взаимодействие перехватчика с веб-API на стороне приложения для перехвата учетных данных;
• направление украденных данных на определённый эксфильтрационный хост — websocket-api2.publicvm.com, что указывает на целенаправленную стратегию.

Обнаружение и предотвращение

Несмотря на высокий уровень имитации, атака была успешно обнаружена и предотвращена с помощью многоуровневого механизма защиты, управляемого AI. Система использовала комбинацию подходов:

• анализ естественного языка (NLP), который распознал стилистические маркеры, характерные для сгенерированного ИИ контента;
• визуальное сравнение подозрительного сайта с оригиналом, позволившее выявить тонкие расхождения;
• проверка сертификатов и сравнение URL — именно эти расхождения и стали решающими для идентификации мошеннического ресурса.

Имитация была почти идеальной, но расхождения в сертификате и URL-адресе имели решающее значение для идентификации веб-сайта как мошеннического.

Последствия для supply chain программного обеспечения

Этот инцидент подчёркивает возросшую опасность для цепочек поставок ПО, где атаки на репозитории пакетов и доверительные механизмы разработки способны привести к массовым компрометированным системам. Использование ИИ для создания правдоподобного фишингового контента повышает вероятность успешной компрометации как отдельных разработчиков, так и автоматизированных процессов CI/CD.

Рекомендации

На основе анализа инцидента стоит рекомендовать следующий набор мер защиты:

• внедрять многоуровневые системы защиты с компонентами на базе AI для анализа текста и визуального сходства страниц;
• регулярно проверять сертификаты и полные URL-адреса при переходе на страницы авторизации, особенно если запрос исходил по электронной почте;
• сканировать и верифицировать сторонние пакеты и зависимости в репозиториях (supply chain security), применять механизмы проверки целостности;
• ограничивать автоматическую установку пакетов и вводить политику review/approval для изменений в зависимостях;
• повышать осведомлённость разработчиков и DevOps-инженеров о новых приемах фишинга с использованием ИИ;
• внедрять мониторинг аномалий сетевого трафика и доменных запросов, чтобы быстрее обнаруживать попытки эксфильтрации.

Вывод

Инцидент с использованием сгенерированного ИИ-контента демонстрирует, что кибератаки становятся не только технически изощрёнными, но и лингвистически адаптированными к человеческому восприятию. Это требует перехода к адаптивным, многоуровневым стратегиям защиты, которые комбинируют анализ поведения, анализ контента и традиционные криптографические проверки. В условиях, когда инструменты ИИ доступны злоумышленникам, организациям необходимо повышать resilience своих процессов разработки и доставки ПО, чтобы минимизировать риск широкомасштабных компрометаций.

Отчет получен из сервиса CTT Report Hub. Права на отчет принадлежат его владельцу.

Ознакомиться подробнее с отчетом можно по ссылке.