Минцифры выводит государственный ИИ под удар белых хакеров

Минцифры России запускает единую программу исследований в сфере защиты цифровых технологий и расширяет эксперимент по проверке устойчивости искусственного интеллекта в государственных информационных системах. Под испытания с 1 июня 2026 года попадают сами нейросетевые модели, их обучающие выборки и интерфейсы взаимодействия. Параллельно вступил в силу приказ ФСТЭК №117, впервые задавший государственные требования к безопасности ИИ.

О новой программе заместитель министра цифрового развития Александр Шойтов рассказал на конференции «ЦИПР». Рынок проходит через период взрывного роста нейросетевых платформ, интернета вещей и смежных решений, а их встраивание в экономику идёт с такой скоростью, что прежние подходы к защите за этим темпом не успевают. Появляются угрозы, которых ещё пять лет назад не было ни в одном учебнике.

Российская отрасль защиты давно ушла от модели «антивирус плюс файервол». Здесь работают сильные команды по разным направлениям:

• криптографические разработки и средства шифрования;
• безопасная разработка программного обеспечения;
• поиск уязвимостей в инфраструктурном коде;
• противодействие сложным целевым атакам;
• анализ защищённости промышленных систем.

Весь этот пласт компетенций пока живёт сам по себе, разрозненно. Новая исследовательская программа призвана собрать научные коллективы, разработчиков и профильные компании в одну рабочую логику с общей траекторией развития.

Стоит обратить внимание, что речь идёт не о бумажной концепции. Практическая часть проекта запущена ещё в 2023 году совместно с ведущими отечественными ИТ-компаниями.

За прошедшее время специалисты проверили десятки крупных ГИС, собрали статистику и выработали собственные методики оценки цифровой устойчивости. Этот фундамент и используется для следующего шага. С 1 июня 2026 года объектом проверки становятся не серверы, не сетевое оборудование и не базы данных, а сами модели машинного обучения, встроенные в государственные сервисы и цифровые платформы.

Здесь начинается самое любопытное. Классический пентест перестаёт быть универсальным инструментом. Раньше специалисту можно было искать ошибки конфигурации, уязвимые сервисы или открытые базы. Современная нейросеть требует другого взгляда, потому что атаковать можно не инфраструктуру, а саму модель, её обучающую выборку, механизм взаимодействия с пользователем и внешний интерфейс.

В новом этапе будут изучаться несколько направлений:

• состязательные атаки, когда злоумышленник специально подбирает входные данные и заставляет алгоритм выдавать неверный результат;
• утечки информации через пользовательские запросы и API;
• data poisoning, то есть подмена или загрязнение обучающих данных ещё до начала эксплуатации модели;
• риски в цепочках поставок предобученных нейросетей, попадающих в государственный контур извне;
• проверка механизмов контроля корректности результатов работы ИИ.

Цепочки поставок предобученных моделей становятся отдельным головняком для тех, кто отвечает за защиту. Многие ИИ-продукты в стране и в мире строятся на базе уже существующих решений, и потенциальная закладка может попасть в государственный сервис ещё до его запуска. Проверять приходится не только собственный код, но и весь набор сторонних компонентов, что превращает аудит в работу с многослойным конструктором.

Любопытно, что государственный сектор сейчас идёт ровно тем путём, который несколько лет назад прошли крупные технологические корпорации, постепенно превратившие ИИ из инструмента в новую поверхность атаки.

Дополнительный импульс задаёт нормативка. С 1 марта 2026 года действует приказ ФСТЭК №117, впервые на государственном уровне зафиксировавший требования к безопасности искусственного интеллекта. Документ:

• описывает защиту моделей машинного обучения, защиту наборов данных;
• вводит обязательный контроль корректности выходных результатов работы алгоритмов.

Эксперимент по анализу защищённости государственных систем теперь становится частью большой экосистемы. Пока бизнес и власть массово встраивают нейросети в рабочие процессы, защитники готовятся к моменту, когда удар придётся не по серверу, а по логике алгоритма. В отрасли уже понимают, что традиционные средства защиты придётся пересобрать под новые угрозы, и эта пересборка будет долгой.

Ранее сообщалось, что Минцифры готовит широкий пакет мер поддержки для компаний, участвующих в импортозамещении программного обеспечения. Ведомство рассматривает возможность предоставления дополнительного финансирования, переноса сроков перехода на российские решения и создания особых условий для направлений, где отечественные аналоги ещё находятся на стадии разработки.

Также ранее мы писали о том, что Минцифры занимается подготовкой законодательной базы для регулирования искусственного интеллекта. Законопроект был направлен в Правительство 24 апреля, а его рассмотрение ожидается в рамках весенней сессии. Документ уже получил согласование 20 государственных структур, среди которых 17 федеральных ведомств, правительства Москвы и Московской области, а также Банк России. Одновременно разрабатывается около 17 подзаконных актов, которые должны определить требования к доверенным, суверенным и национальным ИИ-моделям. Их принятие запланировано на первую половину 2027 года.

Эксперты редакции CISOCLUB заявляют, что переход к проверке устойчивости самих ИИ-моделей в государственных системах назрел давно, и решение Минцифры выглядит логичным продолжением экспериментов прошлых лет. Рынок наконец признаёт, что нейросеть — это не приложение в привычном понимании, а отдельный объект защиты со своими специфическими векторами атак.

Приказ ФСТЭК №117 даёт отрасли первый официальный язык для разговора о безопасности ИИ, а единая исследовательская программа способна выровнять разрозненные команды и подтянуть слабые звенья. В редакции ждут, что уже в 2026 и 2027 годах появятся первые публичные кейсы успешных проверок и обнаруженных дефектов, и именно они зададут реальную планку зрелости. Без такого опыта любые требования останутся декларацией, а с ним российская школа защиты ИИ получит шанс выйти в число заметных мировых игроков.