Эксперты разошлись в оценке угрозы ИИ-червей, о которой предупредила Anthropic
Изображение: OpenAI
Специалисты по информационной безопасности, опрошенные The Guardian, разошлись в оценке ИИ-червей для умных бытовых устройств, о которых 12 октября предупредила Anthropic. Одни считают угрозу реальной и недооценённой, другие называют опыт компании эффектным трюком.
В отчёте Anthropic показала, что небольшие ИИ-модели уже выполняют многие шаги самокопирования, а модель Gemma от Google удалось запустить, распределив её части между 15 недорогими Android-приставками. По прогнозу компании, к концу 2026 года малые модели смогут проходить весь цикл распространения по устройствам интернета вещей. Подробно об отчёте мы рассказывали 13 октября.
Тревогу у части специалистов вызвало то, что слабую защиту умных телевизоров и других устройств интернета вещей очень трудно исправить. По оценке Anthropic, такие устройства получают исправления реже телефонов и ноутбуков. Ariel Herbert-Voss, один из первых специалистов по безопасности в OpenAI, а ныне глава стартапа RunSybil, отмечает, что ИИ-модель, в отличие от обычного вируса, учится по ходу работы, а нынешняя защита к таким угрозам не готова. «Меня беспокоит, что специалисты по кибербезопасности сейчас не относятся к таким реальным рискам так серьёзно, как следовало бы», — сказал Joshua Saxe, руководивший разработкой защиты ИИ в Meta (признана в России экстремистской и её деятельность запрещена).
Скептики возражают, что червь Anthropic распространяется очень медленно, а действия червей предсказуемы, и их можно обнаружить и заблокировать на разных уровнях. На медлительность червя указал аспирант Университета Торонто Jonas Guan, соавтор похожего исследования. «На деле ничего из этого не осуществимо и не опасно. Это ловкий трюк, который раздувают сверх меры ради нелепых апокалиптических историй о том, что у моделей есть собственный разум и воля», — заявил вице-президент SentinelOne по исследованиям Juan Andres Guerrero-Saade.
Большинство таких атак, по словам экспертов, остановили бы надёжные пароли и двухфакторная аутентификация. Бывший заместитель директора АНБ Chris Inglis считает, что правдоподобие ИИ-червей уже доказали несколько случаев выхода ИИ из-под контроля за последние полгода, и теперь важнее понять, как такие программы применять и как им противостоять.
