ГК Softline: защита данных из-за ИИ становится отдельной статьей бюджета

Бизнес активно внедряет искусственный интеллект, но это создает слепую зону для ИБ. Компании зачастую не понимают, какие данные сотрудники передают нейросетям.

В модели и ИИ-сервисы поступают внутренние документы, код, рабочая переписка и информация о клиентах. Кроме того, ИИ все чаще связывают с корпоративными системами, базами данных и внешними ресурсами. Значит, надо контролировать то, к чему получает доступ модель и какие действия она способна выполнять.

Мы в Softline фиксируем, что на этом фоне растет спрос на управление и защиту данных. Важной задачей в рамках таких проектов становится контроль использования ИИ-сервисов. Недостаточно просто закрыть доступ к какой-то системе, чтобы избежать утечки данных или предотвратить другие инциденты. Необходимо регламентировать, какие модели разрешено использовать сотрудникам, какие данные можно передавать и к каким внутренним системам подключены ИИ-агенты.

Для защиты отечественные компании все чаще закупают ряд решений. Речь идет о системах мониторинга и контроля доступа, а также о системах предотвращения утечек данных (DLP) и управления идентификацией и доступом (IAM). Еще одним трендом становится внедрение DSPM – решений, которые позволяют обнаружить чувствительные данные в разрозненных хранилищах и понять, кто и как с ними работает.

Компании все чаще интересует стоимость ИИ-составляющей в проектах информационной безопасности как нового направления. Мы в Softline считаем, что закладывать на ИБ-расходы фиксированный процент от бюджета ИИ-проекта некорректно. Затраты зависят от ряда факторов.

Во-первых, на это влияет полнота данных. Если ИИ работает с обезличенной информацией и не подключен к внутренним системам, требования к защите будут ниже. Но если модель получает доступ к финансовым и персональным данным, то расходы будут больше. Во-вторых, в некоторых проектах достаточно настроить доступы и контроль, а в других – предстоит сперва выяснить, где находятся чувствительные данные и кто ими может воспользоваться. Опыт проектов Softline показывает, что иногда большая часть затрат приходится на этапы инвентаризации данных и сопутствующие процессы.

Управленческое решение заключается в запуске аудита данных и регулировании политик доступа до внедрения ИИ в критичные бизнес-процессы. Руководителям в сфере ИБ важно выполнить эту работу заранее, чтобы обеспечить устойчивость организаций.