Ivanti: 68% ИТ-специалистов сообщили о галлюцинациях ИИ, способных повлиять на работу инфраструктуры

Автономные алгоритмы уже перезапускают службы, ставят патчи и блокируют опасные устройства в инфраструктуре крупных компаний без участия инженеров. По данным отчёта Ivanti о зрелости ИИ к 2026 году, 68% ИТ-специалистов сталкивались с галлюцинациями машинных моделей, способных повлиять на работу инфраструктуры. Опрос охватил 1500 человек из шести стран.

У 52% респондентов команды успевали поймать ошибку алгоритма до того, как та доходила до боевого контура. Ещё 16% признались, что фантазии модели всё же добирались до производственной среды и оборачивались простоем или внеплановыми ночными сменами. Парадоксально, что среди самых продвинутых пользователей ИИ в ИТ 49% полностью доверяют его рекомендациям при принятии операционных решений. Чем глубже инженеры погружаются в работу с моделями, тем выше их доверие и тем чаще они видят промахи.

Автономизация заметно расползается по повседневным задачам:

• ИИ самостоятельно настраивает параметры производительности — 52%;
• изоляция потенциально опасных устройств — 50%;
• перезапуск служб и процессов — 47%;
• автоматическое применение патчей и исправлений — 46%.

В зрелых организациях подобные функции встречаются более чем в два раза чаще, чем у компаний, которые пробуют ИИ на вкус. Ivanti прогнозирует, что в ближайшие 18 месяцев 46% ИТ-операций будут автоматизированы машинными агентами. Для бизнеса это обещание скорости и экономии, для инженеров — новая реальность, где приходится присматривать ещё и за цифровыми помощниками с правом нажимать серьёзные кнопки.

Границу человеческого контроля специалисты пока держат жёстко. 55% участников исследования не стали бы полагаться на ИИ без проверки человеком во время серьёзных инцидентов, а 52% сказали то же самое про коммуникации с руководством. Главным тормозом 27% назвали вопросы управления, безопасности и комплаенса, 20% — нехватку кадров, 17% — ограничения технологий, 14% — проблемы с данными.

На бумаге всё выглядит прилично. 65% компаний внедрили процессы анализа рисков ИИ, 59% утверждают новые модели через формальные политики, 58% приняли правила допустимого применения, 49% создали отдельные надзорные органы. Но реальность скромнее — лишь 24% сотрудников считают, что эти правила соблюдаются последовательно. Разрыв обостряет проблема ответственности — 85% организаций назначают владельца каждому ИИ-агенту, и только 42% подтверждают, что подотчётность работает на практике.

Отдельная головная боль — теневой ИИ. Сотрудники массово запускают несанкционированные инструменты, чтобы обойти медленные процедуры согласования. Сильнее всего это бьёт по госсектору, здравоохранению и образованию. Любопытно, что руководители скрывают применение ИИ в 42% случаев против 23% у рядовых работников, а 52% таких управленцев признались, что хотят получить скрытое преимущество перед коллегами.