Эксперт Рыков: компаниям нужны специальные платформы для безопасного использования ИИ
изображение: grok
Андрей Рыков, заместитель генерального директора по ИТ и инновациям «ОБИТ», прокомментировал для CISOCLUB результаты исследования Filigran, согласно которым атаки с использованием искусственного интеллекта стали главной угрозой для специалистов по информационной безопасности. По мнению эксперта, вопросы безопасности больших языковых моделей и ИИ-агентов сегодня находятся в числе наиболее чувствительных тем для руководителей ИБ-подразделений.
Он отметил, что организации оказались в непростой ситуации. С одной стороны, необходимо обеспечивать защиту корпоративных данных и инфраструктуры, с другой — невозможно игнорировать технологии искусственного интеллекта, которые становятся важным фактором развития бизнеса.
«Вопросы безопасности LLM-моделей и ИИ-агентов в корпоративном контуре остаются одним из наиболее чувствительных для ИБ-руководителей. С одной стороны, они несут ответственность за защиту данных, с другой — не могут полностью ограничить использование ИИ, который становится драйвером развития бизнеса», — заявил Андрей Рыков.
По словам эксперта, решением этой проблемы должны стать не запреты, а создание контролируемой среды для использования искусственного интеллекта. Для этого на рынке уже появляются специализированные платформы, ориентированные на безопасное внедрение корпоративных ИИ-систем.
«Однако существуют варианты нивелировать эту дихотомию, и речь идет не про запрет технологии, а про выстраивание управляемой среды их использования. На рынке появляются специализированные решения и платформы для безопасного использования корпоративного ИИ», — отметил он.
Андрей Рыков пояснил, что подобные решения выступают в роли промежуточного уровня управления между ИИ-агентами и корпоративными системами. Их задача заключается в контроле и аудите всех действий искусственного интеллекта внутри организации.
«Подобные платформы представляют собой промежуточный слой управления ИИ-агентами, которые не взаимодействуют с корпоративными системами напрямую, а каждое их действие проходит через набор модулей запуска, контроля и аудита», — рассказал эксперт.
По его словам, такие механизмы позволяют отслеживать инициаторов действий, определять допустимые операции и задавать условия, при которых требуется дополнительное подтверждение или ограничение активности.
«Модули определяют, кто инициирует действие, какие операции разрешены, в каких случаях требуется подтверждение а в каких случаях необходимы ограничения», — подчеркнул Андрей Рыков.
Эксперт добавил, что в состав подобных платформ могут входить инструменты управления доступом, контроля рисков, аудита действий и интеграции с корпоративной инфраструктурой. Отдельное внимание уделяется взаимодействию между ИИ-агентами и сотрудниками организации.
«Среди модулей могут быть политики доступа, риск-контроля, аудита действий, интеграции с корпоративными системами, а также управление межагентными взаимодействиями и взаимодействием «сотрудник—ИИ». Такие инструменты позволяют снизить операционные и информационные риски, сохраняя при этом возможность масштабирования ИИ-решений внутри организации», — заключил Андрей Рыков.
