Эксперт Карасовский: сокращение ИБ-команд из-за ИИ может увеличить риски для бизнеса
изображение: grok
Дмитрий Карасовский, руководитель отдела по информационной безопасности Axiom JDK, прокомментировал для CISOCLUB влияние искусственного интеллекта на занятость в сфере ИБ. По его мнению, компании могут сокращать команды в расчёте на экономию, но сам по себе процент сокращений не свидетельствует об успешной замене специалистов технологиями.
«Сокращения, связанные с ИИ, во многом продиктованы оптимизацией расходов: компании рассчитывают выполнять прежний объем работы меньшими командами. По данным отчета Barracuda Cybersecurity Skills Gap Report, 56% опрошенных организаций уже столкнулись с сокращением персонала, связанным с ИИ. Но процент сокращений не доказывает успешность замены специалистов», — отметил Дмитрий Карасовский.
Эксперт обращает внимание на то, что уход опытных сотрудников лишает компанию накопленных знаний об архитектуре и эксплуатации продуктов. При этом сокращение числа специалистов может ослабить проверку результатов, которые генерирует ИИ.
«Непродуманная замена людей создает риск инцидентов и ошибок из-за работы искусственного интеллекта. Проводя сокращения, компания теряет знания об архитектуре и особенностях эксплуатации, накопленные сотрудниками годами. Одновременно с этим ослабляется проверка результатов ИИ. Ошибочное исправление может попасть в релиз, опасная уязвимость — получить заниженный приоритет. В этом случае могут только вырасти расходы на устранение инцидента и простой», — заявил Дмитрий Карасовский.
По словам руководителя отдела по информационной безопасности Axiom JDK, при работе со сложными программными продуктами недостаточно автоматически найти уязвимость и предложить исправление. Необходимо учитывать архитектуру, условия эксплуатации и возможные последствия изменений, а также сохранять ответственность за итоговое решение за специалистами.
«В обозримой перспективе ИИ не сможет конкурировать с ИБ-специалистами в самостоятельном принятии решений о безопасности сложного продукта при неполных данных. Исправление уязвимости в JIT-компиляторе может нарушить корректность исполнения; изменение обработки запросов в сервере приложений требует проверки конфигураций заказчиков. Здесь нужны знание архитектуры, контекста эксплуатации и оценка допустимых рисков. Модель способна предложить неполный патч и тест, повторяющий ее ошибку. Окончательное решение о выпуске и ответственность за последствия должны сохраняться за специалистами», — уточнил Дмитрий Карасовский.
При этом эксперт ожидает дальнейшего внедрения ИИ в процессы поиска уязвимостей, тестирования и переноса исправлений между версиями программного обеспечения. Одновременно автоматизация помогает находить дефекты не только защитникам, но и атакующим, что увеличивает нагрузку на проверку обнаруженных проблем и подготовленных исправлений.
«ИИ станет активнее внедряться в работу ИБ-специалистов: будет расти автоматизация поиска уязвимостей, тестирования и переноса исправлений между версиями. Но ИИ ускоряет поиск дефектов и у защитников, и у атакующих. Поэтому в ближайшее время нагрузка на проверку находок и исправлений вырастет. В этом случае сокращение ИБ-команд без учета этих изменений может привести к увеличению количества рисков для бизнеса», — резюмировал Дмитрий Карасовский.
