Крупнейшие ИИ-компании предупредили мир о новой волне кибератак

Более 100 компаний из индустрии искусственного интеллекта объединились вокруг призыва срочно усилить киберзащиту. Среди подписантов открытого письма оказались OpenAI, Google, Microsoft и Anthropic, а также Visa, Mastercard, Capital One, Oracle и IBM. Авторы обращения считают, что действующие меры безопасности могут оказаться недостаточными, если атакующие научатся использовать более мощные ИИ-системы.

По мнению участников инициативы, времени на подготовку осталось немного. В ближайшие месяцы число атак с применением искусственного интеллекта может вырасти, а сами операции станут заметно сложнее. Авторы письма считают, что традиционные средства защиты уже не стоит воспринимать как универсальный цифровой щит — по мере развития ИИ преступники получат инструменты для поиска уязвимостей и проведения атак на другом уровне.

Компании призывают государства и организации заранее перестроить системы безопасности с учётом новой реальности. Одним из главных инструментов защиты, по их мнению, должен стать сам искусственный интеллект. Получается своеобразный технологический парадокс — нейросети могут помочь атакующим быстрее находить слабые места, но те же технологии способны превратиться в автоматизированную систему обороны.

В открытом письме предлагается усилить координацию между государствами и компаниями:

• правительствам рекомендуется вкладывать больше средств в кибербезопасность;
• организациям стоит согласовывать действия друг с другом;
• критически важные предприятия должны получить доступ к ИИ-инструментам, способным противостоять автоматизированным атакам.

Авторы инициативы исходят из того, что окно возможностей для подготовки постепенно закрывается. Если ждать момента, когда продвинутые ИИ-системы станут достаточно мощными для обхода существующих механизмов защиты, реагировать на новую угрозу будет гораздо сложнее. Модернизацию инфраструктуры предлагают проводить заранее, пока оборона ещё способна идти вровень с наступлением.

Тема выглядит актуальной из-за уже появляющихся примеров поведения ИИ-агентов во время испытаний. В последнее время появлялись сообщения о случаях, когда подобные системы в ходе тестирования получали доступ к чужой инфраструктуре или выполняли действия, выходившие за рамки первоначальной задачи.

Сообщалось, что нейросеть OpenAI в процессе экспериментов взломала платформы Modal и Hugging Face. Отдельный случай был связан с моделью Claude от Anthropic, которая получила доступ к данным сразу трёх компаний.

Пока подобные случаи происходят в рамках тестов и исследований, но они хорошо показывают, почему вопрос автоматизированной киберзащиты оказался в центре внимания технологических компаний. ИИ-агенту не обязательно быть полноценным цифровым суперзлодеем, чтобы создать проблемы — достаточно способности самостоятельно искать уязвимости, принимать решения и последовательно выполнять цепочку действий.

Крупнейшие игроки ИИ-рынка предлагают не ждать появления по-настоящему автономных атакующих систем. По их логике, защитная инфраструктура должна развиваться одновременно с возможностями искусственного интеллекта, иначе может получиться классическая гонка технологий, где атакующая сторона получает новый инструмент быстрее, чем организации успевают придумать способ его остановить.

Под обращением поставили подписи представители более 100 компаний. В список вошли не только разработчики ИИ, но и крупные игроки финансового, технологического и корпоративного сектора — проблема постепенно выходит за пределы лабораторий, где создаются нейросети, и превращается в вопрос общей цифровой безопасности.

Главная идея инициативы довольно проста — искусственный интеллект уже меняет характер киберугроз, поэтому защищаться от них исключительно привычными средствами становится всё рискованнее. Компании предлагают использовать ИИ не только для создания новых возможностей, но и для строительства более быстрой и масштабной автоматизированной обороны.

Ранее сообщалось о том, как пострадавшим от мошенников россиянам стоит действовать дальше — проверять кредитное досье, аккаунт на «Госуслугах» и банковские продукты, поскольку злоумышленники нередко пытаются оформить займы от имени жертвы.