Эксперт Ледяева: государственная поддержка ИИ должна учитывать риски утечек данных
изображение: grok
Алина Ледяева, эксперт компании StopPhish, прокомментировала для CISOCLUB подготовку Минцифры пакета мер поддержки отечественного ИИ с бюджетом до 10 млрд рублей в год. По её словам, гранты и субсидии помогут небольшим командам быстрее запускать пилотные проекты, но при активном внедрении ИИ нельзя оставлять вопросы защиты данных без внимания.
Государственное финансирование может ускорить появление ИИ-решений в медицине, госуслугах и бизнесе, считает Алина Ледяева. При этом обучающие датасеты и уже готовые модели становятся привлекательными целями для атак и промышленного шпионажа.
«Субсидии и гранты на 10 млрд рублей помогут небольшим командам быстрее запускать пилоты в медицине, госуслугах и бизнесе. Но за масштабными инвестициями и гонкой за внедрением часто забывают о безопасности. Обучающие датасеты и готовые модели сразу становятся целью для атак и промышленного шпионажа», — отметила Алина Ледяева.
По мнению эксперта, стремление быстрее завершить проект ради получения субсидии может привести к сокращению расходов на кибербезопасность. При этом даже тестовые ИИ-системы способны работать с чувствительной информацией, включая коммерческие тайны и персональные данные клиентов.
«Если разработчики будут спешить сдать проект ради субсидий, на кибербезопасности начнут экономить. При этом в пилотных ИИ-системах крутятся реальные коммерческие тайны и персональные данные клиентов. Если допустить утечку на этапе тестирования, это моментально похоронит доверие к продукту и нанесет прямой ущерб заказчику», — заявила Алина Ледяева.
Алина Ледяева считает, что при отборе проектов государству стоит учитывать не только их новизну и перспективность, но и уровень защищённости создаваемых ИИ-решений. Такой подход позволит снизить риски, которые могут возникнуть ещё до перехода продукта из пилотного режима к масштабному внедрению.
«Государству стоит оценивать не только новизну внедрений, но и уровень защиты ИИ-решений. Чтобы инвестиции принесли пользу, а не риски, команды должны выстраивать базовую цифровую гигиену: обучать сотрудников правилам работы с чувствительными данными, контролировать доступы и осознавать угрозы социальной инженерии, через которую злоумышленники чаще всего проникают к ценным разработкам», — заключила Алина Ледяева.
