Банкам придется управлять ИИ как частью ИБ-контура

Банк России выпустил рекомендации по безопасному использованию искусственного интеллекта финансовыми организациями. Для рынка это важный сигнал: ИИ перестает быть только инструментом автоматизации и становится отдельной зоной информационной безопасности. Если нейросеть работает с клиентскими данными, антифродом, скорингом, внутренней аналитикой или обработкой обращений, ее уже нельзя рассматривать как эксперимент технологической команды.

Регулятор отдельно указал на риски утечек данных, кибератак, подмены обучающих данных, ошибочных ответов моделей и компрометации цепочки поставок. По сути, речь идет о том, что ИИ в финансовой организации должен попадать в тот же управленческий контур, что и другие критичные ИТ-системы: с владельцем процесса, классификацией данных, контролем доступа, проверкой результатов и понятной ответственностью.

Мы в UDV Group видим главный риск не в самом факте использования ИИ, а в неуправляемом внедрении. Нейросеть может начинаться как небольшой пилот для ускорения работы с текстами, обращениями или кодом. Но если правила не описаны заранее, сценарий быстро расширяется: к модели подключают новые данные, доступ получают разные подразделения, результаты начинают использоваться в рабочих решениях. Через несколько месяцев уже сложно ответить, где именно применяется ИИ, какие данные туда попадают и кто отвечает за ошибку.

Один из самых чувствительных вопросов — качество и происхождение данных. Если модель обучается или дообучается на искаженной, устаревшей или недоверенной информации, она может выдавать неправильные рекомендации. Для финансового сектора это не абстрактная проблема. Ошибка может затронуть клиентский сервис, антифрод-процессы, скоринг, обработку обращений, внутренние проверки и автоматизированные решения.

Поэтому банкам нужно контролировать не только саму модель, но и источник данных, на которых она работает. Какие наборы используются? Кто их готовит? Как проверяется их актуальность? Как фиксируются изменения? Что происходит после обновления модели? Если на эти вопросы нет ответов, ИИ становится не помощником в принятии решений, а еще одним источником операционного риска.

Отдельная зона — повседневное использование нейросетей сотрудниками. Чат-боты уже применяют для подготовки документов, анализа текстов, составления писем, генерации кода, обработки обращений и работы с внутренней информацией. Для пользователя это выглядит как удобный рабочий инструмент. Для ИБ это внешний сервис, куда могут попасть клиентские данные, персональная информация, внутренние документы, коммерческие условия или фрагменты кода.

Мы в UDV Group считаем, что здесь нельзя ограничиться формальной политикой «использовать осторожно». Нужны понятные правила: какие ИИ-сервисы разрешены, какие данные нельзя передавать, кто может работать с моделью, как фиксируются действия, как проверяется результат и кто принимает решение, если нейросеть ошиблась. Без этого ИИ превращается в теневой канал обработки данных.

Полный запрет тоже редко решает проблему. Сотрудники все равно будут искать способы ускорить работу через публичные чат-боты, личные аккаунты, браузерные расширения или мобильные приложения. Если компания не предлагает безопасный и понятный сценарий, использование ИИ уходит в тень. А тень для ИБ всегда хуже управляемого риска: непонятно, какие данные вышли наружу, кто их отправил и как они могли быть использованы.

Для банков и других организаций с повышенными требованиями к защите информации особенно важно связать ИИ с классификацией данных. Клиентские сведения, персональные данные, банковская тайна, коммерческая информация, внутренние регламенты, данные антифрода и скоринга не должны попадать в нейросетевые сервисы без определенного режима обработки. Это должно быть описано не в общем виде, а на уровне конкретных сценариев.

В наших проектах мы часто видим, что слабое место возникает не внутри модели, а вокруг нее. Пилот запускают быстро, потому что бизнесу нужен эффект. Но не всегда заранее определяют владельца процесса, модель угроз, правила доступа, порядок проверки результатов и требования к журналированию. В итоге сама технология может быть полезной, но контур ее использования остается незащищенным.

Рекомендации ЦБ подталкивают финансовый сектор к более зрелому подходу. ИИ нужно рассматривать на всем жизненном цикле: выбор модели, проверка поставщика, подготовка данных, настройка доступа, эксплуатация, мониторинг качества, обновления, пересмотр рисков и вывод системы из использования. Особенно если результат работы модели влияет на клиента, деньги, оценку риска или внутреннее решение.

Для нас в UDV Group принципиально, чтобы безопасность ИИ закладывалась до запуска, а не после первого спорного ответа или инцидента. Если нейросеть уже встроена в бизнес-процесс, поздно выяснять, какие данные туда попадают и кто отвечает за последствия. Эти вопросы должны решаться на этапе проектирования.

ИИ не нужно воспринимать как отдельный эксперимент, живущий вне обычных процессов ИБ. Чем глубже нейросети входят в банковские продукты, клиентский сервис, аналитику и внутренние операции, тем выше цена ошибки. Поэтому управлять нужно не только моделью, но и всем контуром вокруг нее: данными, доступами, владельцами, поставщиками, журналами, результатами и реакцией на сбои.

Итог простой: банкам придется перейти от точечных пилотов к управляемой модели внедрения ИИ. Нейросеть может давать бизнесу скорость, но без правил она создает новый слой риска. Если организация не понимает, где применяется ИИ, какие данные он обрабатывает и кто отвечает за результат, она получает не автоматизацию, а неучтенный ИБ-контур.