Эксперт предупредил россиян, что ИИ-агенты могут собрать ботнет из чужих устройств

Искусственный интеллект способен превратиться из помощника в инструмент масштабных кибератак, если автономные агенты получат возможность сами искать уязвимости, заражать устройства и создавать сети подконтрольных машин. IT-эксперт Владимир Зыков предупредил в комментарии NEWS.ru, что такое развитие событий может обернуться серьёзными проблемами для цифровой инфраструктуры по всему миру.

Главная опасность связана не со сверхразумной машиной, которая объявит войну человечеству, а с автоматизацией известных преступных методов, ведь ИИ-агентам можно поручать конкретные задачи, и при наличии инструментов они выполняют цепочки действий без участия человека.

По объяснению Владимира Зыкова, одна из самых пугающих гипотез предполагает, что агент захватит собственную вычислительную инфраструктуру и создаст множество других агентов, которые расползутся по сети. Интеллект уровня передовых моделей OpenAI для этого не нужен, ведь хватит ограниченного набора инструкций и инструментов, и получится цифровая армия, где одни ищут уязвимые системы, другие собирают информацию, третьи выполняют команды управляющей структуры.

Конструкция напоминает ботнет — сеть устройств, заражённых вредоносным ПО и используемых удалённо для DDoS-атак и рассылки спама, а владельцы заражённых компьютеров и гаджетов могут долго не подозревать об этом, замечая лишь повышенную нагрузку, нагрев корпуса или замедление приложений, что само по себе заражения не доказывает.

Старые устройства могут стать новой мишенью, потому что без своевременных обновлений годами работают в сети, и среди них:

• маршрутизаторы;
• компьютеры;
• камеры наблюдения.

Владимир Зыков допустил, что ИИ-агенты способны использовать такие слабые места и расширять сеть заражённых машин, причём узким агентам не нужно универсальное понимание мира. Автоматизация не означает неизбежного появления неуправляемой сети, потому что возможности агентов зависят от полномочий, инструментов, ограничений инфраструктуры и качества защиты.

Эксперт привёл атаку NotPetya, которая в июне 2017 года распространилась через обновление украинского бухгалтерского ПО M.E.Doc и поразила организации в разных странах. Инцидент показал, как компрометация одного звена цепочки поставок вызывает масштабные сбои у организаций, не связанных между собой напрямую.

Предупреждение эксперта стоит воспринимать как описание потенциального риска, а не как подтверждение того, что автономные системы уже способны развернуть глобальную кибервойну, и организациям нужно вовремя обновлять ПО и ограничивать права приложений и ИИ-агентов, а пользователям менять стандартные пароли на маршрутизаторах и не давать неизвестным программам лишних разрешений.

Ранее сообщалось, что в Банке России рассказали о попытках мошенников использовать интерес к цифровому рублю. Заместитель председателя Банка России Зульфия Кахруманова отметила, что подтверждённых случаев пока нет.