Бизнес сам пускает ИИ в свои самые закрытые базы и закрывает глаза на все риски

Применение ИИ при работе с корпоративными базами данных за год выросло почти втрое и достигло 44% организаций против 15% годом ранее. Большинство специалистов открыто признают угрозы, но готовы мириться с ними ради скорости разработки и администрирования. Такие цифры приводит Redgate в годовом отчёте State of the Database Landscape 2026.

Цифры из отчёта Redgate показывают, что нейросетевые алгоритмы получают доступ к самым чувствительным корпоративным системам хранения. Разговор идёт уже не о вспомогательных помощниках для разработчика, а о программах, которые сами выполняют операции с боевыми данными.

Почти две трети опрошенных называют сохранность сведений главной головной болью при внедрении машинного интеллекта. Среди компаний, пока не использующих подобные технологии, доля обеспокоенных оказалась ещё выше — однако опасения не тормозят процесс. Большинство организаций сознательно соглашаются на повышенный уровень потенциальной угрозы ради ускорения рабочих процессов.

Стоит обратить внимание, что осознание проблемы и готовность с ней мириться сегодня идут рука об руку — рынок выбирает скорость, а не осторожность.

Автономные ИИ-агенты распространяются быстрее всего. Генерация SQL и кода уже стала рутиной, а очередным этапом становятся программы, которые работают с хранилищами самостоятельно, почти без участия человека. Применяются такие решения для следующих задач:

• проверка качества и согласованности корпоративных сведений;
• проектирование схем хранения информации;
• автоматизация рутинных административных операций;
• настройка и оптимизация запросов;
• подготовка отчётов и аналитических выборок.

Почти все организации, внедрившие подобные инструменты, говорят о положительной отдаче.

Бен Вайсман, генеральный директор Solisyon, считает, что машинный интеллект способен заметно повысить уровень защиты — за счёт автоматического разбора угроз и поиска уязвимостей. Главную опасность, по его мнению, создаёт не сама технология, а манера её эксплуатации сотрудниками. Серьёзные проблемы появляются, когда персонал начинает заливать конфиденциальные сведения во внешние сервисы или раздаёт ИИ слишком широкие полномочия, отметил руководитель Solisyon. Автоматическая правка любых найденных ошибок без присмотра, добавил он, способна привести к тяжёлым последствиям.

Незрелость внутренних процессов усугубляет ситуацию. Большинство организаций до сих пор тестируют изменения в базах вручную и так же вручную раскатывают новые версии. Формализованные системы управления данными встречаются заметно реже, а полноценное управление метаданными остаётся редкостью. Средства наблюдения за инфраструктурой тоже редко собраны в единой платформе — обычно работает зоопарк из продуктов разных вендоров, самописных скриптов и внутренних утилит контроля.

Ускоренная разработка с участием машинного интеллекта позволяет за минуты перекраивать код и структуру хранилищ. Одновременно растёт вероятность ошибок, которые потом крайне сложно обнаружить до выхода в продакшен. Авторы отчёта выделяют несколько слабых мест современного контура работы с данными:

• ручное тестирование правок в боевых хранилищах;
• ручное развёртывание новых версий без полноценной автоматизации;
• разрозненный мониторинг от разных поставщиков;
• слабая дисциплина управления метаданными;
• регулярные сбои при переносе сведений между системами.

Качество исходных данных названо отдельной проблемой. Многие участники опроса признались, что регулярно сталкиваются с ошибками при миграции информации между системами. Автоматизированные правки в подобных условиях наносят максимальный ущерб. Аналитики Gartner связывают высокую долю провальных проектов машинного интеллекта с теми же неподготовленными данными — по их прогнозу, к концу 2026 года большая часть инициатив без качественных датасетов для обучения и эксплуатации будет свёрнута.

Теневой ИИ — отдельная линия беспокойства. Сотрудники самостоятельно подбирают удобные сервисы для рутинных задач, не согласовывая выбор с подразделениями безопасности. Картина повторяет историю с теневыми ИТ десятилетней давности, разница только в том, что объектом утечек становятся корпоративные сведения. Бен Вайсман уточнил, что персонал регулярно копирует чувствительную информацию в публичные сервисы вроде ChatGPT, не задумываясь о судьбе этих данных.

Интересно, что часть бизнеса жёстко запрещает передачу внутренних сведений во внешние ИИ, тогда как другие компании оставляют сотрудникам короткий перечень разрешённых инструментов — и второй подход становится преобладающим.

Внутренние регламенты тоже подтягиваются. За год резко выросло число организаций, у которых появились формальные правила использования машинного интеллекта. Меняется и кадровая ситуация — около половины опрошенных сказали, что их реальные обязанности заметно разошлись с должностными инструкциями. Примерно столько же признались, что стали реже брать новичков на стартовые позиции, поскольку часть прежних задач теперь закрывает ИИ.

Перспективы на ближайшие год-два выглядят так:

• более 80% опрошенных ждут новых ИИ-инструментов для работы с хранилищами;
• основной рост придётся на крупные облачные платформы;
• спрос на специалистов по данным сместится в сторону управления автономными агентами;
• доля компаний с письменными ИИ-регламентами продолжит расти;
• модель «разрешённого списка сервисов» станет отраслевым стандартом.

Возвращение к классическим принципам защиты выглядит неизбежным. По мере расширения полномочий машинных алгоритмов компаниям придётся жёстче подтверждать личность пользователей и сервисов, выдавать минимально необходимые привилегии, вести полный аудит всех операций и сохранять возможность быстро откатить любое автоматическое действие.

Келлин Горман, специалист по мультиплатформенному машинному интеллекту в Redgate, заявила, что дальнейшее развитие отрасли определит качество корпоративных сведений. ИИ-технологии прогрессируют беспрецедентно быстро, но эффективность моделей целиком зависит от информации, на которой они учатся, сообщила она. Именно специалисты по данным сегодня решают, превратится ли машинный интеллект в очередной технологический прорыв или станет источником самых громких провалов цифровой эры, добавила Горман.

Эксперты редакции CISOCLUB уверены, что нынешний разрыв между темпами внедрения ИИ и зрелостью процессов контроля выглядит критическим — компании раздают автономным агентам доступ к самым чувствительным хранилищам быстрее, чем выстраивают вокруг них защитный контур. Мы убеждены, что приоритетом для бизнеса должны стать жёсткие политики разграничения прав и обязательный аудит всех машинных операций с боевыми базами.

Редакция полагает, что без качественной подготовки данных любые инвестиции в ИИ-агентов превратятся в источник тихих утечек и неотлавливаемых ошибок. Опыт показывает, что теневой ИИ — главный канал бесконтрольной передачи коммерческой тайны наружу, и игнорировать его опаснее, чем внешние атаки. По нашему мнению, ближайшие два года станут проверкой зрелости отрасли — выиграют те, кто успеет совместить скорость разработки с дисциплиной обращения с данными.