Эксперт Игорь Баранов: государство начинает рассматривать ИИ как самостоятельный объект регулирования
изображение: recraft
Игорь Баранов, управляющий партнёр Московской коллегии адвокатов «BRAVIS», прокомментировал для CISOCLUB решение Минцифры о расширении программы проверки искусственного интеллекта и вступление в силу приказа ФСТЭК №117. По мнению эксперта, переход к оценке устойчивости самих моделей ИИ является своевременным и логичным шагом.
Он отметил, что до настоящего времени основное внимание уделялось защите инфраструктуры — серверов, сетей, баз данных и программного обеспечения. Теперь же угрозы все чаще направлены непосредственно на алгоритмы принятия решений.
«Переход государства к проверке устойчивости самих моделей искусственного интеллекта является своевременным и логичным шагом. До настоящего времени основное внимание уделялось защите инфраструктуры: серверов, сетей, баз данных и программного обеспечения. Однако современные угрозы все чаще направлены не на техническую оболочку системы, а непосредственно на алгоритмы принятия решений», — заявил Игорь Баранов.
По словам эксперта, сегодня искусственный интеллект становится самостоятельным объектом атаки. Злоумышленники способны воздействовать на обучающие выборки, подменять данные, манипулировать запросами к модели и получать доступ к конфиденциальной информации через интерфейсы взаимодействия.
«Сегодня искусственный интеллект становится самостоятельным объектом атаки. Злоумышленники могут воздействовать на обучающие выборки, подменять данные, манипулировать запросами к модели, провоцировать выдачу ложных результатов или извлекать конфиденциальную информацию через интерфейсы взаимодействия. Для государственных информационных систем такие риски особенно чувствительны, поскольку последствия ошибок ИИ могут затрагивать права граждан, государственные услуги и вопросы безопасности», — отметил он.
Игорь Баранов положительно оценил появление приказа ФСТЭК №117, который впервые закрепил требования к безопасности искусственного интеллекта на нормативном уровне. По его мнению, это позволит сформировать единый правовой подход для разработчиков и владельцев подобных систем.
«Положительно оцениваю как появление приказа ФСТЭК №117, который впервые закрепил требования к безопасности искусственного интеллекта на нормативном уровне. До этого момента вопросы защиты ИИ регулировались преимущественно внутренними стандартами отдельных организаций и рекомендациями экспертного сообщества. Теперь появляется единый правовой подход, который позволит вырабатывать общие требования к разработчикам и владельцам таких систем», — подчеркнул эксперт.
Он также обратил внимание, что абсолютной защищённости ИИ-систем добиться невозможно, поскольку развитие атакующих технологий происходит не менее активно, чем совершенствование средств защиты. В этих условиях особую роль должна играть система независимого аудита и постоянного контроля качества.
«При этом важно понимать, что ни одна технология искусственного интеллекта не может считаться абсолютно безопасной. Любая модель содержит потенциальные уязвимости, а развитие атакующих технологий происходит не менее быстро, чем развитие средств защиты. Поэтому ключевой задачей государства должно стать не создание иллюзии полной безопасности, а формирование постоянной системы независимого аудита, тестирования и контроля качества ИИ-решений», — заявил Игорь Баранов.
Отдельно эксперт отметил необходимость заранее определить вопросы юридической ответственности при использовании искусственного интеллекта для принятия значимых решений.
«Особое внимание следует уделить вопросам ответственности. Если искусственный интеллект используется для принятия юридически значимых решений, необходимо заранее определить, кто будет отвечать за ошибки алгоритма, утечки данных или причинённый ущерб: разработчик, оператор системы, владелец информационного ресурса или государственный орган, внедривший такую технологию», — рассказал он.
По мнению Игоря Баранова, инициатива Минцифры свидетельствует о переходе к новому этапу развития государственного регулирования искусственного интеллекта.
«В целом инициатива Минцифры свидетельствует о том, что государство начинает воспринимать искусственный интеллект не только как инструмент цифровизации, но и как новый объект правового и информационного регулирования. Считаю, что это необходимое условие для безопасного внедрения ИИ в государственное управление и экономику», — заключил Игорь Баранов.
