Эксперт Костенко: требования к защите ИИ нужно закладывать уже на этапе пилота
изображение: grok
Иван Костенко, аналитик Security Vision, прокомментировал для CISOCLUB подготовку Минцифры программы поддержки отечественного ИИ с бюджетом до 10 млрд рублей в год. По его мнению, инициативу нельзя считать поспешной попыткой разогнать рынок: для неё уже сформирована нормативная база, которая задаёт требования к безопасности ИИ-решений.
Одним из таких документов стал приказ ФСТЭК России №117, впервые закрепивший требования к безопасности ИИ в государственных информационных системах. Документ предусматривает определение шаблонов запросов и ответов моделей, фильтрацию по допустимым тематикам и разработку критериев выявления недостоверных ответов, а также запрещает использовать облачные ИИ-сервисы для обработки информации ограниченного доступа.
«Кроме того, документ вводит прямой запрет на передачу разработчику модели информации ограниченного доступа, содержащейся в системе, даже для улучшения её работы. Это критически важно для программы Минцифры: значительная часть грантополучателей будет дообучать готовые модели на данных заказчиков, и такие проекты должны быть спроектированы так, чтобы разработчик физически не имел доступа к чувствительным данным», — отметил Иван Костенко.
По словам эксперта, требования к ИИ уже включают не только общие принципы защиты, но и конкретные измеримые показатели. В частности, приказ устанавливает сроки устранения уязвимостей в зависимости от их критичности: для уязвимостей критического уровня предусмотрено не более 24 часов, высокого уровня — не более семи дней.
Дальнейшее развитие регулирования, как считает Иван Костенко, будет связано с более детальной регламентацией требований к ИИ. В законопроекте Минцифры уже закреплены понятия суверенной и национальной моделей ИИ, а также риск-ориентированный подход, при котором требования зависят от степени влияния системы на жизнь человека.
«Следующим шагом может стать детализация на уровне подзаконных актов и методических документов. Иными словами, регуляторы, включая Минцифры и ФСТЭК, движутся от общих принципов к технической конкретике, и участникам рынка стоит закладывать эти требования в архитектуру решений уже на этапе пилотных проектов», — заявил Иван Костенко.
Такой подход, по оценке аналитика, усложнит запуск проектов, которые соответствуют требованиям только формально. Измеримые показатели защищённости, сроки устранения уязвимостей и требования к аттестации должны сделать недостаточным представление о готовности ИИ-решения только в виде презентации.
«С таким подходом проскочить с пилотным проектом сомнительного качества не получится: измеримые показатели защищённости, жёсткие сроки устранения уязвимостей и требования к аттестации просто не позволят отчитаться красивой презентацией вместо работающего решения», — заключил Иван Костенко.
