Эксперт Салпагаров: массовое внедрение ИИ может повысить риски в информационной безопасности
изображение: grok
Султан Салпагаров, архитектор по информационной безопасности Getmobit, прокомментировал для CISOCLUB влияние искусственного интеллекта на занятость в сфере ИБ. По его мнению, автоматизация рутинных задач приводит к сокращению начального уровня специалистов, но компании пока не готовы полностью доверить нейросетям решения, связанные с высокими рисками.
«После ИТ с небольшой задержкой ИИ ударил и по ИБ. Простые рутинные работы стали с разной долей успешности перекладывать на нейроинструменты. А в ИБ это мониторинг и контроль доступов», — отметил Султан Салпагаров.
По словам эксперта, автоматизация меняет структуру команд: вместо аналитиков первой линии компании рассчитывают использовать более квалифицированных сотрудников, которые будут управлять ИИ-агентами. При этом такой подход не решает проблему подготовки специалистов, поскольку опыт работы с реальной инфраструктурой приобретается непосредственно на рабочем месте.
«Так же, как и в ИТ, никто не доверяет ИИ принимать решения с высокой ценой ошибки. И, как и в ИТ, нижний слой работников стал активно «вымываться». В ИТ это junior-разработчики, в ИБ — это L1, аналитики первой линии, разбирающие события безопасности систем мониторинга и контроля. И логика вроде бы присутствует — один квалифицированный работник, командуя нейросетевыми агентам, будет эффективнее и дешевле целого отдела людей-«полуавтоматов». В идеальном мире все так и происходит», — заявил Султан Салпагаров.
Эксперт считает, что отрасль преждевременно рассчитывает на массовый переход к такой модели. Компании нуждаются в специалистах с практическим опытом, но получить его без постепенного погружения в работу и знакомства с особенностями конкретной инфраструктуры невозможно.
«Революция искусственного интеллекта, во-первых, преждевременна. К ней не готов рынок труда — новые специалисты высокого уровня с реальным опытом, который все еще является главным фактором найма, это оксюморон. Идея готовить специалистов сразу высокого уровня утопична — нельзя подготовить человека к тому, что в инфраструктуре работодателя складывалась годами и каждый раз по своему собственному неповторимому пути. Помните знаменитое «забудьте все, что вы учили в институте» Жванецкого? Сейчас каждый проходит путь обучения на местах, эта преемственность опыта является финальной стадией любого обучения. А мы хотим сразу отдать курсантам «красную кнопку»?» — уточнил Султан Салпагаров.
Ещё одна проблема связана с необходимостью проверять результаты работы ИИ. По мнению архитектора по информационной безопасности Getmobit, это может свести на нет ожидаемый выигрыш в скорости и увеличить нагрузку на оставшихся сотрудников. При этом цена ошибки в защите информации особенно высока, поскольку неудачные изменения способны привести к новым уязвимостям и масштабным сбоям.
«Во-вторых, прогресс делается точными инструментами, а не быстрыми. И здесь нас ждут множество ловушек — от необходимости перепроверять все выводы ИИ, которые мало того, что не снимают эффекта быстрых решений, а еще и замедляют работу оставшихся сотрудников. Это если делать хорошо и не обращать внимания не то, что существующий персонал одномоментно станет «золотыми работниками», чье существование само по себе угрожает бизнесу.
В третьих, цена ошибки в ИБ еще выше, чем в ИТ. Хотя и там она порой катастрофична. Это наглядно продемонстрировала «репетиция цифрового апокалипсиса», когда сбой Windows привел к остановке аэропортов, мобильных операторов и медицинского оборудования по всему миру. Это если делать быстро, не считаясь с неизбежными галлюцинациями. Первые плоды такого подхода уже видны. Так поспешное закрытие уязвимости в ядре Linux привело к появлению двух других, еще более критичных, а рост количества обнаруживаемых уязвимостей, лишь частично являющийся следствием развития ИИ, большей своей частью обязан внедрению того же ИИ в разработку. Код стал грязнее и уязвимее, а все разработчики стали сплошь архитекторами, не опускаясь до написания качественного кода», — подчеркнул Султан Салпагаров.
При этом эксперт не считает, что технологический прогресс можно остановить. Он призывает учитывать риски переходного периода, прежде чем массово сокращать сотрудников ради экономии. По его мнению, оптимизация без оценки последствий может обернуться для бизнеса новыми проблемами.
«В таких условиях верить словам Дженсена Хуанга, который обещает полную нейрозамену программистам, могут только идеалисты. Но бизнес массово идет в сторону оптимизации издержек. Потому что чистота кода никогда не была метрикой эффективности, а репутация до сих пор еще не подвергалась столь массовой бомбардировке инцидентами.
Прогресс не остановить, и все проблемы переходного периода могут быть преодолены. Но начинать надо все-таки с этих проблем, чтобы «революция» не ударила по «революционерам». Наука знает историю таких заблуждений — от торсионных полей до «новой хронологии» — когда красивая идея не выдерживала проверку реальностью и погребала под своим обломками тех, кто ставил на нее всё», — резюмировал Султан Салпагаров.
