Военные дроны с ИИ превращаются в новое пространство охоты для хакеров

Автономные боевые платформы на базе ИИ переворачивают представление о современном вооружении и одновременно создают огромное поле для цифровых атак. Великобритания готовится вложить миллиарды фунтов в беспилотные комплексы и интеллектуальные системы управления, а специалисты предупреждают, что расходы на закупку техники бессмысленно отделять от затрат на её киберзащиту.

Британское правительство запускает масштабную программу перевооружения, где автономные платформы становятся ядром будущей армии. Концепция гибридного флота подразумевает связку традиционной техники с беспилотными решениями во всех средах — на земле, в воздухе, на воде и под водой. Финансирование направлено сразу на несколько треков:

• закупку боевых беспилотных комплексов разного класса;
• разработку интеллектуальных систем управления;
• создание сетевой инфраструктуры для координации техники;
• модернизацию центров обработки данных;
• программы обучения операторов.

Руководитель направления по работе с государственным сектором Check Point Грэм Стюарт уверен, что покупка новых платформ — это лишь верхушка айсберга. Сопоставимые, а иногда и большие суммы придётся вкладывать в защиту цифровой инфраструктуры, программного обеспечения и электронных компонентов, которые лежат в фундаменте автономной техники. Без этого дорогостоящий парк дронов рискует стать эффектной, но уязвимой мишенью.

Стоит обратить внимание, что каждый новый канал связи, программный модуль или элемент ИИ автоматически превращается в дополнительную точку интереса для противника — и чем сложнее платформа, тем шире её поверхность атаки.

Беспилотные системы уже показали свою силу в актуальных конфликтах. Автономные аппараты выполняют широкий круг задач, снимают человека с самых опасных операций и заметно снижают стоимость выполнения отдельных миссий по сравнению с классическим вооружением. Именно этот эффект и подталкивает страны к массовому переходу на дроны, отметил Грэм Стюарт.

Одновременно растёт и количество направлений возможных атак на автономную технику. Среди наиболее актуальных векторов эксперт выделил несколько групп:

• создание радиопомех для срыва навигации и обмена данными;
• перехват канала связи между оператором и платформой;
• атаки на центры управления и координации групп дронов;
• воздействие на программные модули самой машины;
• манипуляции с обучающими данными моделей ИИ.

Цифровые угрозы эволюционируют примерно с той же скоростью, что и сами технологии автономного управления, заявил специалист Check Point. Атакующие сами вооружаются ИИ, чтобы искать новые способы обхода защиты, автоматизировать взломы и анализировать поведение сложных цифровых систем прямо на лету.

Фактически складывается новая технологическая гонка, где ИИ выходит против ИИ. С одной стороны — автономные платформы, самостоятельно принимающие часть решений. С другой — интеллектуальные инструменты атакующих, которые находят уязвимости, ломают работу оборудования и вмешиваются в процессы управления. Побеждает тот, чьи алгоритмы окажутся быстрее, точнее и устойчивее к внешнему давлению.

Интересно, что классическое разделение на «оператора» и «противника» постепенно уходит в прошлое — обе стороны всё чаще опираются на алгоритмы, которые фактически ведут собственную партию внутри общего конфликта.

Грэм Стюарт считает, что оборонным структурам придётся идти по двум путям одновременно — наращивать парк автономной техники и расширять собственные возможности по её защите. Если развитие средств киберобороны начнёт отставать от темпов внедрения новых платформ, риски успешных атак вырастут кратно, а вложения в дроны обесценятся из-за одной успешной цифровой операции противника.

Отдельного внимания требует структура будущих расходов. Значительная часть бюджета, по оценке эксперта, должна закрывать сразу несколько защитных направлений:

• электронику и аппаратные компоненты дронов;
• программное обеспечение платформ и центров управления;
• коммуникационные каналы и системы шифрования;
• модели машинного обучения, применяемые в бою;
• процедуры реагирования на инциденты и восстановления.

Безопасность самих моделей ИИ выходит на первый план. Современные автономные системы всё сильнее зависят от программных алгоритмов, поэтому защита нейросетевых моделей постепенно становится столь же значимой задачей, как физическая охрана оборудования или шифрование каналов связи. Отравление обучающих данных, подмена весов, атаки состязательными примерами — всё это уже перестало быть темой академических статей и перешло в разряд реальных угроз для армии.

Понятие «беспилотник» давно вышло за пределы авиации. Автономные технологии активно развиваются для наземных платформ, морских судов, надводных аппаратов и подводной техники. Концепция гибридного флота как раз и подразумевает совместную работу традиционных вооружений и интеллектуальных автономных систем, каждая из которых закрывает собственный круг задач и одновременно расширяет общую поверхность возможной атаки на всю военную сеть.

Дальнейшее распространение ИИ в оборонной сфере неизбежно приведёт к росту требований к киберзащите, полагают специалисты отрасли. Чем сложнее становятся автономные платформы, тем больше внимания придётся уделять не только их боевым возможностям, но и способности противостоять цифровым атакам, которые прибавляют в скорости примерно теми же темпами, что и сами беспилотные технологии.

Ранее сообщалось, что директор направления анти-БПЛА АО «Цикада» Игорь Рассказов положительно оценил инициативу по обязательному внедрению систем удалённой идентификации беспилотных летательных аппаратов. По его мнению, такая мера способна повысить уровень защиты российских компаний за счёт более точного распознавания легальных и потенциально опасных дронов. Вместе с тем эксперт отмечал, что новые требования потребуют адаптации существующих средств противодействия БПЛА, поскольку производителям придётся перенастраивать оборудование для работы в изменившихся условиях.

Эксперты редакции CISOCLUB заявили, что эпоха «дешёвого дрона без защиты» окончательно закрывается. Массовое внедрение автономной техники без параллельного вложения в киберзащиту создаёт для армии дорогую иллюзию силы, которая может рухнуть после первой серьёзной атаки на цепочку управления. Гонка алгоритмов между обороной и наступлением уже стартовала, и выиграют её те страны, которые научатся защищать не только железо, но и модели ИИ, каналы связи и обучающие данные.

Мы прогнозируем, что в ближайшие годы бюджеты на киберзащиту дронов будут расти быстрее, чем расходы на закупку самих платформ. Тем, кто продолжит экономить на этом направлении, придётся оплатить обучение дорогой ценой уже после инцидента.