В Cisco рассказали, как хакеры превратили Claude Code, Codex, Cursor и Gemini в оружие для кибератак
изображение: grok
Киберпреступники активно применяют популярные генеративные ИИ-модели для разработки вредоносного программного обеспечения, автоматизации атак и поиска уязвимостей. Специалисты Cisco Talos установили, что злоумышленникам зачастую хватает простых приёмов социальной инженерии, чтобы обойти встроенные ограничения Claude Code, Codex, Cursor и Gemini.
Times of India со ссылкой на исследование Cisco Talos пишет, что аналитики изучили истории запросов и журналы переписки, которые сами злоумышленники случайно оставили в открытом доступе. Это позволило увидеть, каким образом преступники взаимодействуют с современными ИИ-сервисами и получают ответы, помогающие готовить новые кибератаки.
Речь в отчёте идёт о широко используемых инструментах для разработки программного обеспечения. Claude Code создан компанией Anthropic, Codex выпускает OpenAI, Cursor представляет одноимённая компания, а Gemini развивается Google. Все эти системы изначально создавались для помощи разработчикам и специалистам по информационной безопасности, хотя их возможности могут применяться и в противоправных целях.
Обход встроенных ограничений далеко не всегда требует сложных технических методов. Приёмы, которыми пользуются злоумышленники, сводятся к нескольким уловкам:
- убеждают модель, что участвуют в официальных соревнованиях по этичному хакингу;
- заявляют о наличии разрешения администратора на проведение проверки;
- начинают новый диалог после того, как предыдущий был заблокирован защитными механизмами;
Старший технический руководитель Cisco Talos Ник Бьязини отметил, что ожидал увидеть более надёжную защиту от подобных запросов. При этом эксперт признал, что разработчики ИИ находятся в непростой ситуации. Модели одновременно должны помогать исследователям безопасности и командам Red Team, которым подобные функции действительно необходимы для профессиональной работы.
Ещё одну тревожную тенденцию обнаружили авторы исследования. Часть атакующих задействует похищенные корпоративные API-токены и взломанные учётные записи компаний. Это позволяет запускать ИИ-инструменты на чужих вычислительных мощностях, не оплачивая собственную инфраструктуру.
Ситуация показывает, что встроенные механизмы защиты сами по себе не способны гарантировать безопасность, оценили в Cisco Talos. Когда ограничения обходятся обычными приёмами социальной инженерии, организациям необходимо дополнять их другими средствами контроля, поскольку рассчитывать исключительно на фильтры внутри ИИ-моделей уже недостаточно.
