Адвокат Игорь Баранов: ИИ становится частью системы киберзащиты, но ответственность остается за человеком
изображение: grok
Игорь Баранов, адвокат, управляющий партнер Московской коллегии адвокатов «BRAVIS», прокомментировал для CISOCLUB рост числа вакансий в сфере информационной безопасности, где от кандидатов требуют навыков работы с искусственным интеллектом. По его словам, ИИ быстро перестает быть просто дополнительным инструментом специалиста и становится частью самой системы киберзащиты.
«Чем больше функций передается искусственному интеллекту, тем выше становится цена человеческой ответственности. ИИ может анализировать огромные массивы событий, выявлять подозрительную активность и предлагать алгоритм реагирования, но окончательное решение в критической ситуации должно оставаться за специалистом», — отметил Игорь Баранов.
Эксперт подчеркнул, что особенно важен такой подход для банков, операторов связи, государственных информационных систем и других объектов, где ошибка автоматизированной системы может иметь серьезные последствия.
«Современный специалист по информационной безопасности должен обладать уже не только техническими знаниями. От него требуется способность критически оценивать рекомендации ИИ, понимать возможные последствия автоматических решений и, главное, уметь определить момент, когда машине доверять нельзя», — рассказал он.
По словам Баранова, распространение ИИ в кибербезопасности одновременно создает и важный юридический вопрос: автоматизация не должна означать автоматического снятия ответственности с человека. При расследовании инцидента необходимо будет установить, кто контролировал систему, какие правила для нее были установлены и предусматривалась ли проверка критических решений.
«Если решение ИИ приводит к ущербу, необходимо понимать, кто его контролировал, какие правила были установлены, была ли предусмотрена человеческая проверка и мог ли специалист предотвратить негативные последствия», — пояснил адвокат.
При этом, считает эксперт, страх ответственности не должен привести к отказу компаний от использования искусственного интеллекта в ИБ. При грамотной организации технологии способны значительно повысить эффективность защиты, однако для этого необходимо четко разграничивать функции машины и человека.
«Сегодня необходимо формировать не просто рынок специалистов, умеющих пользоваться нейросетями, а новую профессиональную культуру: ИИ принимает участие в анализе, человек сохраняет контроль над критическими решениями», — подчеркнул Баранов.
Отдельной проблемой остается подготовка молодых специалистов. Если работодатели одновременно будут требовать глубоких знаний в кибербезопасности, опыта работы с ИИ-агентами и нескольких лет практики, это может только усилить кадровый дефицит.
«Бизнесу и государству необходимо развивать систему стажировок и практической подготовки, где начинающий специалист сможет работать с ИИ в контролируемой среде. Иначе мы получим парадоксальную ситуацию: технологии будут развиваться быстрее, чем специалисты, способные безопасно ими управлять», — заключил Игорь Баранов.
