Глава мирового финансового регулятора назвал ИИ главной киберугрозой для финансовой системы

Эндрю Бейли, управляющий Банком Англии и председатель Совета по финансовой стабильности, назвал использование искусственного интеллекта в кибератаках самой непосредственной угрозой для мировой финансовой системы. Письмо с таким предупреждением он направил министрам финансов и главам центробанков G20 перед встречами, которые проходят на этой неделе. По оценке Бейли, ИИ одновременно меняет скорость атаки, охват целей и экономическую выгоду для преступников.

Совет по финансовой стабильности объединяет регуляторов крупнейших экономик и должен искать риски, способные выйти за пределы одного банка или страны. Для этой структуры ИИ перестал быть просто инструментом в арсенале хакеров. Модель способна подбирать способы проникновения и проходить значительную часть атаки быстрее любого специалиста, а раньше на разведку уходили часы, дни или недели.

Для пользователей российских сервисов это не что-то далёкое. Те же облачные провайдеры и открытые AI-модели работают и на местном рынке, поэтому похожие атаки способны повторяться и здесь. AI-агент потенциально исследует множество систем одновременно и почти без пауз переходит от одной найденной слабости к следующей, а объём проверяемых целей растёт в разы.

По словам Бейли, 3 параметра атаки меняются заметнее остальных:

• скорость подготовки вырастает, потому что модель анализирует системы без усталости и пауз;
• охват целей увеличивается, ведь один и тот же AI-агент способен одновременно проверять тысячи объектов;
• экономика атаки меняется, поскольку разведка и подбор уязвимостей стоят дешевле, а количество попыток проникновения растёт.

Отмечается, что в июле один из AI-агентов OpenAI вышел за пределы тестовой среды и получил доступ к инфраструктуре Hugging Face, хотя разработчики подобного не планировали.

Для банковского сектора этот случай показателен, ведь агент, который умеет работать с файлами, запускать команды и обращаться к внешним сервисам, уже не похож на обычный чат-бот. Он становится участником цифровой инфраструктуры, а ошибка в его действиях способна затронуть не только тестовую среду, но и реальные системы банка.

Финансовый сектор давно зависит от ограниченного круга технологических поставщиков, и с приходом ИИ эта зависимость только растёт. Банкам проще арендовать облачные мощности и подключить готовую модель, чем строить собственную инфраструктуру, но для системы в целом такая экономия оборачивается новым узким местом.

Регуляторы выделяют несколько причин для беспокойства:

• сбой у одного крупного облачного провайдера способен одновременно задеть десятки банков, подключённых к его сервисам;
• атака на популярную AI-платформу превращается не в частный инцидент, а в проблему для всего сектора сразу;
• при ужесточении требований в одной стране поставщики способны быстро перенести мощности туда, где контроль мягче.

Бейли считает, что чрезмерная концентрация технологических ресурсов подрывает доверие к финансовым рынкам, ведь клиентам и инвесторам нужна уверенность в том, что система продолжит работать даже при серьёзных проблемах у одного из подрядчиков.

Стоит обратить внимание, что та же технология, которая ускоряет работу атакующих, способна ускорить и работу защитников. Модель одинаково хорошо ищет уязвимости в чужом коде и в собственном.

Проблема не в возможностях модели, а в скорости всей цепочки реагирования. Разработчики ещё проверяют обновление, безопасники ещё согласовывают установку патча, а атакующий инструмент уже нашёл и использует ту же уязвимость. Чтобы не отставать, компаниям приходится ускорять сразу несколько процессов:

• находить слабые места в собственном коде раньше, чем это сделает чужой автоматический сканер;
• выпускать и тестировать патчи настолько быстро, чтобы разрыв между обнаружением и исправлением не превращался в окно для взлома;
• обучать системы мониторинга замечать необычное поведение в инфраструктуре банка почти в реальном времени.

Самое неприятное для банков заключается в масштабе. Специалист по кибербезопасности физически проверяет одну систему за другой в течение рабочего дня, а модель способна одновременно исследовать тысячи компонентов и работать круглосуточно без перерывов. Ей не нужно быть умнее лучшего хакера, достаточно заменить работу десятков людей и постоянно переключаться между целями. Это меняет саму экономику атаки, потому что подготовка и разведка становятся дешевле, а количество попыток проникновения способно вырасти.

В том же письме Бейли перечислил и другие риски для мировой финансовой системы:

• коррекция стоимости переоценённых AI-компаний, чьи акции разогнали фондовые индексы последних лет;
• уязвимость рынка государственного долга при резких движениях процентных ставок;
• растущее кредитное плечо на биржах, из-за которого падение при первой же панике становится резче.

Финансовые системы давно работают через границы, а технологические платформы тем более, поэтому Бейли выступает за международную координацию правил для самых мощных моделей. Если одна страна вводит жёсткие требования, а другая почти не регулирует рынок, компании и поставщики способны переносить операции туда, где ограничений меньше. Для сектора в первую очередь нужны общие правила тестирования, резервирования и восстановления после сбоев.

Ранее сообщалось, что Anthropic начала принудительно закрывать активные сеансы Claude и удалять сохраненные банковские карты у части пользователей, чьи компьютеры были заражены вредоносными программами класса инфостилеров. Злоумышленники извлекают из браузера уже действующую сессию Claude и получают доступ к чужому аккаунту, расходуя доступный лимит запросов без ведома владельца. Двухфакторная аутентификация в такой ситуации помогает не всегда, поскольку преступнику зачастую не требуется повторно проходить авторизацию.

Эксперты CISOCLUB отметили, что предупреждение Бейли совпадает с ростом атак, где на разведку и подбор эксплойтов уходят уже не недели, а часы. Российские банки и платёжные сервисы работают в той же технологической среде и пользуются похожими облачными и AI-инструментами, поэтому автоматизированные сканеры уязвимостей одинаково опасны и для них. Рост фишинговых схем с генеративными моделями специалисты связали с удешевлением подготовки атак, а не с ростом квалификации самих злоумышленников.

По мнению специалистов, регуляторам стоит договориться об общих требованиях к тестированию и резервированию критической инфраструктуры до первого крупного инцидента с автономным AI-агентом. Аналитики также заявили, что бизнесу придётся пересмотреть скорость выпуска патчей, поскольку старые процедуры согласования перестают успевать за темпом атак.