Эксперт предупредил россиян, что ИИ придётся ловить ИИ на кибератаках

Противостоять кибератакам с применением искусственного интеллекта эффективнее всего с помощью самих нейросетей, которые находят уязвимости в цифровых сервисах и помогают устранять их до того, как ими воспользуются злоумышленники. Глава АНО «Цифровые платформы» и киберэксперт Арсений Щельцин рассказал «Ленте.ру», почему привычных требований к защите данных уже мало.

По оценке Арсения Щельцина, отрасли предстоит серьёзное обновление взглядов на киберзащиту. Действующие требования в основном ориентированы на государственные информационные системы, а частные компании и онлайн-сервисы с огромными массивами пользовательской информации остаются отдельным источником рисков, ведь через коммерческие платформы нередко происходят утечки персональных сведений клиентов.

Арсений Щельцин посчитал перспективным применение ИИ не только при создании программ, но и для проверки их защищённости. Специальные агенты анализируют работу сервисов, находят слабые места и помогают специалистам устранять проблемы, и часть проверок можно автоматизировать, не ограничиваясь периодическими аудитами и ручным поиском ошибок.

Нейросеть не становится цифровым телохранителем сразу после установки, и результат зависит от следующего:

• качества модели;
• доступных ей инструментов и полномочий;
• способности отличать реальные угрозы от ложных срабатываний.

Найденные автоматически ошибки нужно проверять, а изменения в работающих системах вносить с учётом последствий, потому что без контроля сотрудников автоматизация способна принести новые проблемы вместо усиления защиты.

Отдельное беспокойство эксперта вызывает разница между требованиями к государственным и коммерческим системам. Онлайн-магазины, приложения и цифровые платформы собирают пользовательские данные для регистрации, оплаты и услуг, и если их инфраструктура защищена слабо, последствия инцидента затрагивают множество людей. ИИ ускоряет поиск технических слабостей, но причины утечек бывают традиционными, например ошибки в коде, неправильно настроенные права доступа, слабая защита учётных записей или уязвимости в сторонних компонентах, поэтому нейросети не отменяют обновления, контроль доступа и независимые проверки.

Для частных лиц ситуация, по оценке Арсения Щельцина, менее обнадёживающая, потому что повлиять на защищённость чужих платформ пользователи почти не могут и вынуждены рассчитывать, что компании будут беречь собранную информацию. Полностью отказываться от мер предосторожности всё равно не стоит, ведь уникальные пароли, двухфакторная аутентификация, осторожность со ссылками и своевременные обновления уменьшают вероятность отдельных атак, хотя утечку из базы компании не предотвратят.

Защита цифровых сервисов превращается в соревнование автоматизированных систем, ведь пока одни нейросети ищут слабые места, другие помогают обходить защиту, поэтому ставка на ИИ усилит оборону, но полагаться только на него было бы ошибкой.

Ранее сообщалось, что ИИ-агенты потенциально способны собрать ботнет из чужих устройств. IT-эксперт Владимир Зыков предупредил, что автоматизация известных преступных методов может усилить масштаб атак, но восстанием роботов это не грозит.