Эксперт Беспояско: ИИ ускоряет атаки, но не заменяет специалистов по информационной безопасности
изображение: grok
Алексей Беспояско, пресейл-эксперт по информационной безопасности iTPROTECT, прокомментировал для CISOCLUB влияние искусственного интеллекта на кибербезопасность. По его словам, ИИ снижает стоимость атак и помогает злоумышленникам масштабировать уже известные методы, но основными причинами инцидентов по-прежнему остаются человеческие ошибки и проблемы в настройке ИТ-инфраструктуры.
Эксперт считает, что компаниям не стоит пытаться соревноваться с атакующими исключительно за счёт вычислительных ресурсов и более мощных моделей. Гораздо важнее понимать, где именно внутри организации используется ИИ, какие данные ему доступны и какие действия он способен выполнять.
«Выигрывают те компании, которые подходят к вопросу информационной безопасности последовательно. ИИ никогда не заменит профессиональные качества ИБ-специалистов и тем более не устранит „дыру“ в ИТ-периметре, но он может служить инструментом, который позволяет закрывать задачи по информационной безопасности быстро и качественно», — отметил Алексей Беспояско.
По мнению эксперта, отдельного внимания требует теневое использование ИИ. Сотрудники могут самостоятельно передавать в чат-боты исходный код, клиентскую информацию и другие корпоративные данные, в том числе на зарубежные серверы. Поэтому организациям необходимо контролировать применение внешних ИИ-сервисов и понимать, какие сведения покидают корпоративный контур.
При внедрении собственных ИИ-систем Алексей Беспояско рекомендует в первую очередь защищать данные, а не саму модель. Внутренний ассистент должен получать только тот объём информации и доступов, который необходим конкретному пользователю для выполнения его задач.
«ИИ-агентов важно ограничивать в правах, поскольку их можно „обмануть“ при помощи специального запроса. Для таких агентов необходимо устанавливать минимум прав, а критичные действия выполнять только при участии и подтверждении реального человека. Также важно проверять происхождение моделей: открытая модель — такой же сторонний код, как любая библиотека. Собственные ИИ-системы нужно регулярно тестировать на взлом», — рассказал эксперт.
Отдельную пользу ИИ способен принести самим подразделениям информационной безопасности, где нехватка специалистов сочетается с большим объёмом рутинной работы. В SOC ежедневно поступают десятки тысяч событий, среди которых встречаются ложные срабатывания, из-за чего аналитик рискует пропустить действительно опасный сигнал.
ИИ может взять на себя первичную обработку такого потока: отсеивать незначимые события, объединять разрозненные данные в единую картину атаки и подсказывать специалисту, что требует дополнительной проверки. Это позволяет перераспределить время аналитиков с механической обработки событий на более сложные и стратегические задачи.
«ИИ помогает ИБ-специалистам применять свои знания и умения более быстро, эффективно и централизованно, а значит, превращать ИИ в реальное преимущество в контексте скорости реакции», — резюмировал Алексей Беспояско.
