Поспешное внедрение ИИ дорого обходится бизнесу, а доверяют ему лишь треть организаций

Корпоративный сектор перешёл от пилотных проектов с искусственным интеллектом к промышленной эксплуатации агентных систем, при этом лишь 34% организаций доверяют решениям своих цифровых помощников. Исследование Boomi зафиксировало парадокс, когда 86% компаний уже вывели ИИ-агентов в реальные бизнес-процессы, но большинство сомневаются в надёжности их действий. Причина кроется не в самих моделях, а в неподготовленной инфраструктуре данных, слабой интеграции корпоративных систем и отсутствии грамотного управления.

Аналитики Boomi разделили участников опроса на несколько категорий по уровню зрелости работы с агентным ИИ. Самую проблемную группу они назвали «агентский хаос», и в неё попали организации с наименее подготовленной цифровой основой. Парадоксальным образом даже среди этих компаний 77% уже внедряют ИИ-агентов в производственные процессы, продолжая масштабировать технологию при неготовом фундаменте. Совсем иначе выглядит группа «агентский контроль», куда попали организации с продуманной архитектурой и налаженными процессами управления данными.

Интересно, что более половины представителей группы «агентский контроль» заявили о полном доверии решениям своих цифровых помощников, тогда как в группе «агентский хаос» этот показатель падает до критических значений.

Что показало исследование Boomi:

• 86% организаций перевели агентный ИИ из пилотов в промышленную эксплуатацию;
• только 34% компаний доверяют решениям своих ИИ-агентов;
• 77% организаций из группы «агентский хаос» уже используют агентов в реальных процессах;
• 51% компаний с низкой готовностью инфраструктуры сосредоточены на поиске лучших моделей вместо подготовки данных;
• более 50% зрелых организаций считают решения агентов пригодными для рабочих задач.

Специалисты Boomi предупреждают о рисках подобной спешки. Недостаточный контроль над агентами способен привести к нарушениям нормативных требований, финансовым штрафам, простою бизнес-процессов и потере клиентов, если автоматизированные системы начнут принимать ошибочные решения.

Для российских пользователей корпоративных сервисов это означает вполне конкретную угрозу, поскольку многие отечественные компании тоже спешат внедрять ИИ-агентов в клиентские интерфейсы банков, маркетплейсов и госуслуг без должной проверки. Ошибка агента при работе с персональными данными или финансовыми операциями может обернуться утечкой информации или неверными транзакциями.

Генеральный директор Boomi Стив Лукас прокомментировал результаты работы аналитиков и заявил, что доверять агентам можно только тогда, когда они получают качественные, правильно подключённые и хорошо управляемые данные.

По словам Лукаса, сегодня многие организации запускают интеллектуальных помощников задолго до того, как успевают подготовить необходимую основу для их корректной работы. Стив Лукас также обратил внимание на то, что желание быстрее продемонстрировать эффект от ИИ нередко заставляет руководителей ускорять запуск решений, откладывая вопросы интеграции и управления на потом.

Практика поспешного внедрения превращается в ловушку для бизнеса. Руководители стремятся показать акционерам и инвесторам активное использование искусственного интеллекта, но получают обратный эффект — вместо плавного перехода к автоматизации им приходится устранять ошибки уже после запуска, перестраивать инфраструктуру и адаптировать внутренние процессы. Такая стратегия обычно оказывается дороже и требует больше времени, чем предварительная подготовка.

Стоит обратить внимание, что около 51% организаций из группы «агентский хаос» сосредоточены прежде всего на выборе более совершенных моделей или новых ИИ-инструментов, уделяя гораздо меньше внимания качеству корпоративных данных и надёжной архитектуре.

Основные риски бесконтрольного внедрения ИИ-агентов:

• нарушения нормативных требований и штрафы регуляторов;
• финансовые потери из-за ошибочных автоматических решений;
• простои бизнес-процессов при сбоях в работе агентов;
• отток клиентов после некорректных операций;
• утечки данных при слабой интеграции корпоративных систем.

Опасность актуальна и для российских пользователей, поскольку отечественные банки, ритейлеры и операторы связи активно тестируют агентные системы в клиентском обслуживании. Если такой агент работает на плохо подготовленной инфраструктуре, он может ошибочно заблокировать счёт, отправить конфиденциальные сведения не тому получателю или одобрить подозрительную операцию.

Регуляторы Роскомнадзор и ФСТЭК уже обсуждают требования к прозрачности решений ИИ, работающих с персональными данными граждан.

Что определяет успех внедрения агентного ИИ:

• качество и полнота корпоративных данных;
• уровень интеграции между внутренними системами;
• наличие механизмов контроля решений агента;
• управляемость всей цифровой инфраструктуры;
• зрелость процессов управления данными.

Ранее сообщалось, что исследование Redgate State of the Database Landscape 2026 зафиксировало резкий рост использования искусственного интеллекта при работе с корпоративными базами данных. За год доля организаций, применяющих ИИ для разработки и администрирования, увеличилась с 15% до 44%. Несмотря на то что большинство специалистов признают связанные с этим риски для безопасности и конфиденциальности данных, компании продолжают активно внедрять такие инструменты, отдавая приоритет ускорению рабочих процессов и повышению эффективности.

Экспертная редакция CISOCLUB считает выводы Boomi крайне показательными для текущего состояния рынка корпоративного ИИ. Гонка за скорейшим внедрением агентных систем в отрыве от подготовки данных и контроля создаёт серьёзные риски информационной безопасности, которые могут проявиться уже в ближайшие месяцы.

Российские компании находятся в схожей ситуации, поскольку тоже спешат демонстрировать инвесторам и государству активное использование ИИ. По мнению редакции, отечественным организациям стоит извлечь уроки из мирового опыта и уделить приоритетное внимание построению надёжной архитектуры данных до масштабирования агентов. Без этого автоматизация превратится из конкурентного преимущества в источник инцидентов и репутационных потерь.