ИИ впервые помог хакерам собрать zero day эксплойт, в Google зафиксировали прецедент

Google сообщила о первом задокументированном случае, когда злоумышленники применили искусственный интеллект для разработки zero day-уязвимости. Хакеры готовили масштабную атаку, но раннее обнаружение командой Google Threat Intelligence Group сорвало их планы. Компания назвала это поворотным моментом — теория о «хакерах с ИИ» перестала быть прогнозом и стала фактом.

Zero day относят к самому опасному классу угроз. Производитель ПО не знает об уязвимости, патча не существует, а пользователи остаются беззащитными ровно до того момента, пока кто-то не обнаружит проблему. Раньше поиск таких брешей требовал недель кропотливой ручной работы и высокой квалификации. Теперь часть этой работы взяли на себя нейросети.

Исследователи GTIG описали, как именно действовали злоумышленники:

• применяли современные ИИ-модели для анализа кода и поиска слабых мест
• сгенерировали уязвимость, о которой не подозревал ни один инженер
• планировали запустить массовую эксплуатацию против большого числа систем
• не успели — Google перехватила активность на подготовительной стадии

Стоит обратить внимание, что атаку удалось остановить до запуска. Несколько лет назад подобный сюжет существовал только в докладах футурологов, теперь же он попал в реальный отчёт о реальных событиях.

Больше всего вопросов у Google вызывают группировки, привязанные к Китаю и Северной Корее. По оценке аналитиков, эти команды экспериментируют с ИИ-инструментами агрессивнее коллег из других регионов. Они тестируют модели для разведки, написания вредоносного кода и автоматизации поиска входных точек.

Картину дополняет статистика по автоматизированным атакам. За год число инцидентов с участием ИИ-ботов выросло более чем в десять раз — с двух до примерно двадцати пяти миллионов случаев по всему миру. Это не плавный рост, а резкий скачок, который индустрия не успевает осмыслить.

Бизнес-модель злоумышленников меняется вместе с инструментами. Чтобы обходить ограничения ИИ-платформ, хакеры выстроили вспомогательную инфраструктуру:

• анонимный доступ к моделям через прокси-цепочки
• автоматическую регистрацию десятков аккаунтов
• посреднические сервисы для обхода лимитов использования
• эксплуатацию бесплатных пробных периодов в промышленных масштабах

Фактически преступная среда превращает доступ к нейросетям в управляемый поток ресурсов, почти как обычный технологический сервис с подпиской. Ротация аккаунтов и abuse trial-доступов позволяют масштабировать операции без серьёзных затрат.

Технологические компании при этом сами развивают похожие возможности. В марте Anthropic показала систему Mythos, которая ищет ранее неизвестные дыры в браузерах и софте. Задумывались такие продукты как подспорье для защитников и багхантеров, но оборотная сторона технологии проявилась почти мгновенно. Один и тот же класс инструментов одинаково хорошо служит и обороне, и нападению.

Проблема не сводится к самому факту обнаружения брешей. Скорость — вот что меняет расклад. Эксперты выделяют несколько тревожных сдвигов:

• сокращается окно между публикацией бага и его массовым использованием
• анализ огромных объёмов кода занимает часы вместо недель
• генерация вариантов эксплуатации идёт почти конвейерно
• защитники теряют запас времени, на который привыкли рассчитывать

Уточняется, что прежде у компаний были недели или даже месяцы на реакцию после раскрытия уязвимости. Сейчас этот промежуток сжимается, и службам безопасности придётся перестраивать привычные процессы.

Ранее Google пересмотрела программу вознаграждений за уязвимости в Android и Chrome. За самые сложные цепочки атак компания готова заплатить до полутора миллионов долларов. Выплаты за простые баги, наоборот, снижаются — часть таких ошибок теперь находится силами ИИ, и ценность ручного поиска падает.

Двойственная роль самих разработчиков моделей становится отдельной темой для дискуссий. Google, Anthropic и другие игроки выпускают инструменты для поиска брешей и поддерживают исследователей безопасности. Те же технологии быстро перенимает криминальная среда, и установить барьер между двумя сценариями применения почти невозможно. Любая модель, умеющая находить слабые места ради защиты, теоретически умеет делать то же ради атаки.

Ранее мы писали, что функция AI Overviews в поиске Google ежедневно выдаёт миллионы неточных ответов. Общая точность держится около девяноста процентов, но при колоссальном поисковом трафике даже небольшая доля ошибок превращается в огромное абсолютное число. Это напоминание, что зрелость технологии и её надёжность — разные вещи.

Что отрасли стоит держать в голове прямо сейчас:

• ИИ-ассистированные атаки перешли из разряда прогнозов в разряд практики
• автоматизация инфраструктуры делает преступные операции дешевле и быстрее
• защитные команды нуждаются в собственных ИИ-инструментах, чтобы не отставать
• регуляторам и платформам придётся жёстче работать с обходом лимитов

Прецедент с zero day — это не разовый эпизод, а сигнал о смене эпохи. Ручной взлом не исчезнет, но рядом с ним появился промышленный конвейер, который анализирует код быстрее любого человека. Дальнейшее зависит от того, успеют ли защитники освоить те же возможности раньше нападающих.

Эксперты редакции CISOCLUB уверены, что прецедент с AI-assisted zero day стоит воспринимать как точку отсчёта, а не как изолированный инцидент. Гонка инструментов между атакующими и защитниками вышла на новый уровень, и преимущество получит та сторона, которая быстрее интегрирует ИИ в свои процессы.

Мы убеждены, что компаниям пора закладывать в стратегию безопасности не абстрактную «угрозу будущего», а конкретный рабочий риск сегодняшнего дня. Платформам — разработчикам моделей — придётся всерьёз заняться борьбой с массовым обходом лимитов, иначе их продукты так и будут питать преступную инфраструктуру. Редакция считает, что ближайшие месяцы покажут, способна ли индустрия отвечать на угрозу с той же скоростью, с какой она развивается. Сомнений в том, что отвечать придётся, у нас нет.