Эксперт Меженева: компаниям стоит начать проверку ИБ с учёта данных, передаваемых во внешние ИИ-сервисы

изображение: grok
Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис», прокомментировала для CISOCLUB рекомендацию российским организациям проверить состояние информационной безопасности до конца 2026 года. По её мнению, компаниям в первую очередь стоит разобраться, какие данные сотрудники и корпоративные ИИ-агенты передают во внешние сервисы.
«До конца года рекомендуется скорее привести в порядок учёт того, что уходит во внешние ИИ-сервисы. Приказ № 117 действует с 1 марта и распространяется на госсистемы. Если компания впервые считает КЗИ в декабре, у неё обычно нет ни событий из SIEM за нужный период, ни свежего сканирования уязвимостей, и оценка становится формальной», — отметила Ирина Меженева.
Отдельного внимания требует защита моделей искусственного интеллекта, хотя проект требований к ним, опубликованный 24 августа, пока не является обязательным для частного бизнеса. Эксперт рекомендует изолировать модели в отдельном сегменте, ограничивать привилегированный доступ с помощью многофакторной аутентификации, фильтровать запросы и ответы, а также контролировать интенсивность обращений и доступные функции.
«Проект требований к моделям от 24 августа для частного бизнеса не обязателен, но модели действительно нужно выносить в отдельный сегмент, закрывать к ним привилегированный доступ многофакторной аутентификацией, фильтровать входные запросы и ответы, ограничивать число обращений и контролировать доступные функции», — пояснила специалист.
При этом одной из наиболее сложных задач остаётся контроль над данными, которые попадают в ИИ-системы. Сотрудники могут загружать в чат-боты рабочие документы, а агентам предоставляют доступ к корпоративной почте и файловым хранилищам. Без учёта таких подключений компании не могут полноценно оценить, какая информация оказывается во внешних сервисах.
«Сложнее всего понять, какие данные вообще попадают в модель. Сотрудники отправляют в чат-боты рабочие документы, агентам выдают права на почту и файловые хранилища, а реестра таких подключений часто нет. Я бы начинала с этого реестра и с логирования запросов», — заключила Ирина Меженева.



