Эксперт Музалевский: привлечение белых хакеров к проверке ИИ может усилить безопасность государственных систем
Изображение: recraft
Фёдор Музалевский, RTM Group, прокомментировал для CISOCLUB расширение программы проверки искусственного интеллекта в государственных информационных системах и отметил, что практика привлечения белых хакеров уже доказала свою эффективность в российской сфере информационной безопасности. По мнению эксперта, аналогичный подход способен дать положительный результат и при тестировании ИИ.
Он обратил внимание, что после легализации деятельности белых хакеров в России количество обнаруживаемых уязвимостей заметно увеличилось. Одной из причин этого эксперт считает отсутствие жёсткой привязки независимых исследователей к формальным методикам и регуляторным ограничениям.
«Практика привлечения белых хакеров к поиску уязвимостей – самая позитивная. После того как в прошлом году им дали старт законно работать в РФ, число найденных уязвимостей выросло более чем в полтора раза. У свободных пентестеров есть одно существенное преимущество с лицензиатами ФСТЭК – они не связаны рамками методик и прочей регуляторики (почти всегда отстающей от технологий), что позволяет более гибко подходить к вопросам поиска проблем безопасности. Следует рассчитывать, что эта позитивная тенденция сохранится и в вопросах тестирования ИИ», — заявил Фёдор Музалевский.
По словам эксперта, государственное регулирование безопасности нейросетевых технологий сегодня носит скорее превентивный характер. Он считает, что уровень фактического внедрения ИИ в государственных информационных системах пока остаётся относительно невысоким, однако создание нормативной базы заранее является правильным шагом.
«Регулирование безопасности нейросетей в ГИС – шаг, скорее, предупреждающий. Уровень развития ИИ вообще, и в ГИСах в частности, крайне скромный. Но на перспективу регулирование нужно, и здесь стоит похвалить ФСТЭК, закладывающий требования заранее», — отметил он.
Фёдор Музалевский считает, что наиболее сложная ситуация может сложиться у организаций, которые уже используют нейросетевые технологии в своих системах. Отсутствие устоявшихся методик и критериев оценки создаёт для них дополнительную неопределённость.
«Тяжелее всего придется владельцам тех систем, которые уже сейчас применяют нейросети – методик и критериев нет, а вот желающих выразить негатив – более чем достаточно. Но есть надежда, что эффект будет скорее положительный, особенно в перспективе», — подчеркнул эксперт.
Отдельно он обратил внимание на влияние регулирования на темпы развития технологий. По мнению Фёдора Музалевского, подобная тенденция сегодня наблюдается не только в России, но и на мировом рынке искусственного интеллекта.
«И еще один важный момент – где регулирование, там замедляется развитие. И это, на удивление, один из мировых трендов. Разработчики Cloude недавно заявили, что ИИ стоит «притормозить» – что ж, ФСТЭК и Anthropic в одной упряжке – это даже интересно», — заключил Фёдор Музалевский.
