Эксперт Василенко: безопасность ИИ становится обязательной частью жизненного цикла цифровых систем
Изображение: grok
Иван Василенко, руководитель клиентской стратегии HiveTrace, прокомментировал для CISOCLUB запуск Минцифры России программы исследований в сфере защиты искусственного интеллекта и вступление в силу приказа ФСТЭК №117, устанавливающего государственные требования к безопасности ИИ.
По мнению эксперта, эти изменения отражают общемировую тенденцию, в рамках которой нейросетевые технологии перестают рассматриваться как обычное программное обеспечение и становятся самостоятельным объектом кибербезопасности.
«Решение Минцифры отражает глобальный тренд: ИИ перестает восприниматься как обычное приложение и становится отдельным объектом кибербезопасности», — заявил Иван Василенко.
Он отметил, что крупнейшие мировые разработчики уже давно интегрируют проверки устойчивости моделей в процессы создания и эксплуатации своих продуктов. Практики red teaming и специализированного тестирования становятся обязательной частью жизненного цикла современных ИИ-систем.
«Сегодня крупнейшие мировые разработчики – от OpenAI до Microsoft и Anthropic – уже рассматривают red teaming и тестирование моделей как обязательную часть жизненного цикла ИИ-систем», — подчеркнул эксперт.
По словам Ивана Василенко, приказ ФСТЭК №117 фактически закрепляет подход, который постепенно превращается в международный отраслевой стандарт. Речь идёт не только о защите уже работающих систем, но и о регулярной проверке моделей на устойчивость к различным типам атак.
«Приказ ФСТЭК №117 фактически закрепляет подход, который уже становится отраслевым стандартом во всем мире: ИИ необходимо не только защищать в продакшене, но и регулярно проверять на устойчивость к атакам», — отметил он.
Эксперт считает, что для российского рынка это является важным сигналом о переходе безопасности искусственного интеллекта из сферы экспериментальных исследований в категорию обязательных практик.
«Для рынка это важный сигнал, что безопасность ИИ постепенно переходит из категории исследований и экспериментов в категорию обязательных практик», — заключил Иван Василенко.
