Anthropic оценила риск появления ИИ-червей на бытовых устройствах
Изображение: OpenAI
Малые ИИ-модели могут вскоре научиться копировать себя на IoT-устройства без дата-центров, считают исследователи Anthropic. Если прежние темпы развития сохранятся, к концу 2026 года они могут достичь уровня, необходимого для полного цикла распространения в упрощённых условиях.
В таком сценарии червь мог бы распределять части модели между взломанными устройствами, которые совместно обеспечивали бы её работу. По оценке авторов, такую сеть было бы трудно отключить из-за отсутствия единого центра, а модель могла бы самостоятельно осваивать незнакомое оборудование. Однако распространение могло бы быть медленным: удвоение числа копий занимало бы дни.
Среди проверенных моделей с открытыми весами полный цикл распространения прошла только более крупная GLM-5.2. Испытание провели в изолированной сети с эмуляторами Android, где доступ через ADB не требовал аутентификации. GLM-5.2 настраивала запуск Llama3.1-8B, после чего испытательная система создавала на узле новую копию агента. Сама GLM-5.2 работала на отдельном сервере, поэтому опыт не проверял её способность запускать собственную модель на захваченных устройствах.
В отдельной проверке модель с 9 млрд параметров настроила запуск ИИ на восьми из девяти типов оборудования. Команда также запустила Gemma4-26B-A4B на 15 недорогих Android TV-приставках, распределив между ними слои модели. Скорость составила 0,39 токена в секунду.
Как пишет The Next Web, исследователи видят возможность обнаруживать таких червей по передаче крупных файлов между устройствами, которые обычно не обмениваются данными. Интернет-провайдеры могли бы выявлять такой трафик и изолировать заражённых абонентов, а производителям стоит выпускать устройства с более надёжной защитой по умолчанию.
