Эксперт Трофимов: злоумышленники могут использовать ИИ для атак даже без глубоких технических знаний
изображение: grok
Алексей Трофимов, главный специалист группы по анализу защищенности мобильных и веб-приложений компании «Бастион», прокомментировал CISOCLUB результаты исследования Filigran, согласно которым атаки с использованием искусственного интеллекта стали главной угрозой для специалистов по информационной безопасности. По мнению эксперта, распространение доступных ИИ-инструментов заметно снижает порог входа для потенциальных злоумышленников.
Он отметил, что современные большие языковые модели обладают широкими возможностями интеграции с внешними сервисами и способны обрабатывать значительные объёмы информации за короткое время. Это делает их полезным инструментом не только для бизнеса, но и для атакующих.
«Существующие в открытом доступе ИИ имеют много расширений и навыков, которые могут взаимодействовать с сервисами заказчика. LLM могут быстро обрабатывать достаточно большие объемы информации», — заявил Алексей Трофимов.
По словам эксперта, одной из проблем остаётся относительная простота обхода встроенных ограничений, предназначенных для предотвращения вредоносного использования подобных систем.
«Но при этом снять их встроенные защитные механизмы несложно. Поэтому нападающий может использовать такие модели, не прилагая для этого больших усилий или даже не имея глубоких знаний», — отметил он.
Алексей Трофимов также обратил внимание, что даже наиболее продвинутые модели с усиленными механизмами защиты не гарантируют полной безопасности. Злоумышленники могут обходить ограничения, разбивая сложные задачи на отдельные этапы, которые сами по себе не выглядят вредоносными.
«Даже на фронтир-моделях с серьезной защитой нарушитель может разделять большую задачу на маленькие, каждая из которых не является однозначно вредоносной, и с помощью этого создавать цепочку атак», — заключил Алексей Трофимов.
