Массовая утечка данных из-за ИИ зафиксирована в Европе

В Испании хакер с помощью ИИ-агента получил доступ к данным местной организации. Эксперт «Группы Астра» Владимир Нелюб считает, что инцидент в Испании — это не повод для паники, а повод проверить успевает ли защита за атакой.

По данным службы по защите персональных данных Испании, эффективная кибератака произошла с помощью ИИ-агента, который использовал крупную языковую модель для выявления уязвимостей, получения доступа к системе и к счетам-фактурам, сообщает Reuters.

Этот инцидент произошел на фоне усиления контроля за рисками, связанными с системами искусственного интеллекта, со стороны регулирующих органов в США и Европе.

В «Группе Астра», крупнейшем разработчике ИИ-решений и вендоре B2B-решений, прокомментировали инцидент.

«Важно понимать, что ИИ-агент способен пройти весь цикл атаки автономно, тогда как раньше это требовало команды квалифицированных специалистов и времени. Главный вывод не в том, что ИИ опасен, а в том, что он ускоряет всё — и продуктивность сотрудников, и работу служб ИБ, и в том числе кибератаки. Если защитник продолжает работать в прежнем темпе, с ручным разбором логов и без агентных сценариев, он проигрывает по скорости. Поэтому перестройка процессов — не вопрос эффективности, а вопрос выживания. Необходимо встраивать ИИ в мониторинг и реагирование, ограничивать права агентов, выстраивать человеко-машинное согласование по критическим действиям и обучать команды работать в новой реальности. Инцидент в Испании — это не повод для паники, а повод проверить успевает ли защита за атакой», — говорит Владимир Нелюб, управляющий партнер «Астра ИИ Код», директор по науке и ИИ «Группы Астра».