Бизнес по всему миру наращивает бюджеты на защиту от кибератак с ИИ

Изображение: Kenny Eliason (unsplash)
Компании по всему миру пересматривают бюджеты на защиту, потому что искусственный интеллект ускоряет подготовку атак и упрощает создание вредоносных инструментов. По данным IBM, число атак с применением ИИ за год выросло на 56%, а средняя стоимость утечки данных достигла рекордных $4,99 млн. Одновременно бизнесу приходится защищать собственные нейросети и ИИ-агентов, поэтому расходы на защиту компании планируют увеличить и в 2027 году.
Рост расходов подтвердили представители индийской ИТ-компании Mphasis. Активнее всего вложения увеличивают банки и страховщики, а ритейлеры тоже тратят больше, потому что обрабатывают большие объёмы клиентских данных. Деньги идут не только на антивирусы и межсетевые экраны, но и на следующее:
- управление цифровыми идентификаторами и доступом;
- автоматизацию поиска уязвимостей;
- защиту ИИ-инфраструктуры;
- контроль полномочий автономных агентов, которые сами обращаются к документам и базам данных.
Сотни миллиардов долларов
Gartner оценил мировые расходы на защиту информации в 2026 году в $244 млрд при росте на 11,6% в постоянных валютах. IDC считает более широкую категорию и называет $310,42 млрд, на 13,2% больше, чем годом ранее, поэтому напрямую сравнивать прогнозы нельзя. В опросе PwC участвовали почти четыре тысячи руководителей из 71 страны, и 84% из них рассчитывают увеличить бюджеты в ближайшие 12 месяцев, годом ранее таких было 78%.
Boston Consulting Group опросила примерно 300 руководителей, и 83% сообщили об увеличении расходов на защиту, при этом почти девять из десяти организаций за последние 12 месяцев столкнулись с кибератаками. Только 39% опрошенных PwC имеют полностью оформленный план непрерывности деятельности с учётом киберугроз, а половина назвала атаки на сами ИИ-системы среди угроз, к которым подготовлена хуже всего.
В Европе банки и страховщики подпадают под регламент DORA, который действует с 17 января 2025 года и требует управлять рисками, реагировать на инциденты и контролировать подрядчиков.
Атаки дорожают и ускоряются
В отчёте IBM, подготовленном вместе с Ponemon Institute, примерно каждый четвёртый злонамеренный инцидент с утечкой данных связан с ИИ в руках злоумышленников. Они использовали поддельные изображения и голос, чтобы выдавать себя за сотрудников и руководителей, а также вредоносные программы, написанные или улучшенные нейросетью. Утечки с участием ИИ обходились в среднем примерно в $6 млн, на $1 млн дороже общего показателя, а компании, которые применяют ИИ и автоматизацию в собственной защите, сокращали затраты почти на $2 млн.
Российским компаниям эти схемы знакомы по звонкам и письмам от имени «директора» с просьбой срочно провести платёж, а нейросеть позволяет быстро подделать голос и составить убедительное сообщение.
CrowdStrike сообщила, что злоумышленники использовали легальные инструменты генеративного ИИ более чем в 90 организациях и вредоносными инструкциями пытались заставить их формировать команды для кражи учётных данных и криптовалюты. Отчёты CrowdStrike и Verizon зафиксировали следующие изменения:
- активность противников с ИИ выросла на 89%;
- от проникновения до перемещения по инфраструктуре проходит в среднем 29 минут, а самый быстрый случай занял 27 секунд;
- 82% обнаружений обошлись без традиционного вредоносного ПО;
- эксплуатация уязвимостей стала начальной точкой 31% утечек и обогнала кражу паролей.
Агенты с правами сотрудников
В опросе Cloud Security Alliance 53% организаций сообщили, что их ИИ-агенты хотя бы раз выходили за пределы разрешений, а 47% сталкивались с инцидентами, связанными с агентами. Другое исследование альянса показало следующее:
- 68% организаций не могут чётко отличить действия агента от действий человека;
- 31% разрешают агентам работать под учётными записями сотрудников;
- 43% используют для них общие сервисные аккаунты;
- 22% последовательно применяют к агентам контроль доступа.
Российским компаниям, которые подключают ассистентов к почте, CRM и документообороту, предстоит решать тот же вопрос. Если агент работает под учётной записью сотрудника, при расследовании не понять, кто выполнил операцию, человек или программа.
По данным ETR Research, 37% организаций уже внедрили ИИ-агентов или тестируют их, но специализированные средства защиты агентов широко применяют лишь 3%. При атаке prompt injection агент получает письмо с вредоносной инструкцией, принимает её за команду и пытается передать конфиденциальные сведения вовне.
Более половины организаций применяют ИИ-агентов для обнаружения угроз, но для управления уязвимостями их используют лишь 18%, поэтому система быстро сообщает о проблеме, а исправление упирается в людей и согласования. Компании переходят от закупки отдельных продуктов к управлению цифровыми рисками, и в бюджеты закладывают затраты на следующее:
- аудит ИИ-систем и контроль доступа;
- обучение сотрудников;
- тестирование на проникновение и управление уязвимостями;
- подготовку к восстановлению после инцидентов.
Эксперты CISOCLUB отметили, что рост расходов мало что меняет, если компания не знает, сколько у неё автоматизированных учётных записей и кто за них отвечает. Первым шагом они назвали инвентаризацию ИИ-агентов, сервисных аккаунтов и API-ключей с назначением владельца для каждого. Агенту нужно выдавать минимум прав под конкретную задачу и записывать его действия отдельно от действий сотрудника, иначе расследование превращается в угадывание. Вредоносная инструкция может прийти вместе с обычным письмом, поэтому данные, которые обрабатывает модель, стоит считать недоверенными.
Когда от проникновения до движения по сети проходит около получаса, закрывать уязвимости неделями согласований нельзя. Бюджет лучше направить на отработку реагирования и проверку восстановления из резервных копий, чем на очередной продукт, который никто не успеет настроить.
Ранее сообщалось, что четверть американских руководителей информационной безопасности (CISO) планирует существенно увеличить расходы на искусственный интеллект в следующем году, несмотря на практически неизменные общие бюджеты на ИБ. Такие данные приводит исследовательская компания IANS в отчёте 2026 Security Budget Benchmark Report, подготовленном по результатам опроса 500 руководителей служб безопасности в США.



