Эксперт Беспояско: защита ИИ становится отдельной статьёй расходов компаний
изображение: grok
Алексей Беспояско, пресейл-эксперт по информационной безопасности iTPROTECT, прокомментировал для CISOCLUB рост интереса компаний к внедрению и защите искусственного интеллекта. По его словам, распространение нейросетей среди сотрудников создаёт новую зону контроля, которую традиционные средства защиты не всегда способны закрыть.
ИИ уже используют в течение рабочего дня сотрудники разных уровней, включая топ-менеджеров. При этом запрет на сторонние нейросети не всегда останавливает их использование, а может лишь переводить работу с такими сервисами в неформальную область, где компании сложнее контролировать передаваемые данные и соблюдение правил безопасности.
«ИИ в течение рабочего дня используют как рядовые сотрудники, так и топ-менеджмент. Но далеко не все применяют его для решения рабочих задач, а в некоторых компаниях использование сторонних нейросетей находится под запретом, и сотрудники используют их «неофициально». Это создает риск потери контроля: применение удобных инструментов просто уходит в тень», — отметил Алексей Беспояско.
По словам эксперта, спрос на защиту ИИ уже формируется на российском рынке. В компаниях сталкиваются с тем, что существующий комплекс средств информационной безопасности не учитывает специфические риски, возникающие при использовании нейросетей и ИИ-систем.
«Так, например, мы на практике столкнулись с тем, что каждая вторая российская компания, которая обращается к нам, проявляет интерес к внедрению и защите ИИ. За этим спросом стоит понятная проблема: привычный набор средств защиты информации не покрывает все специфические риски ИИ. Поэтому сейчас активно формируется и начинает развиваться российский рынок внедрения и защиты ИИ», — сказал Алексей Беспояско.
Отдельной задачей становится проверка уже внедрённых ИИ-решений. Даже наличие защищённой корпоративной инфраструктуры не означает, что подключённые к ней нейросети автоматически защищены от утечек данных или попыток злоумышленников получить доступ к моделям и связанным с ними системам.
«Даже хорошо защищенная инфраструктура не гарантирует, что использование в ней нейросетей будет безопасно. Зачастую компании приобретают корпоративный доступ к популярной нейросети, и позже, чтобы исключить риски утечки данных и проникновения злоумышленников, внедряют защиту и проверяют ее эффективность. Например, для этого команда пентестеров помогает оценить уровень защищённости ИИ/ML-моделей», — отметил эксперт.
При этом расходы на безопасность ИИ не обязательно проходят непосредственно по бюджетам подразделений ИБ. По словам Алексея Беспояско, финансирование таких проектов может находиться у команд, отвечающих за цифровую трансформацию, поскольку безопасность становится частью условий успешного внедрения технологии.
«Показательно, что бюджет на защиту ИИ нередко находится у подразделений цифровой трансформации. Для бизнеса безопасность становится одним из условий запуска технологии и получения результата от неё», — резюмировал Алексей Беспояско.
