Адвокат Игорь Баранов: искусственный интеллект не снимает с российского бизнеса ответственность за киберриски

Игорь Баранов, адвокат, управляющий партнёр Московской коллегии адвокатов «BRAVIS», прокомментировал для CISOCLUB возможные изменения в работе подразделений информационной безопасности при внедрении искусственного интеллекта. По его мнению, расширение полномочий ИИ-систем требует от компаний пересмотра подходов к управлению рисками, контролю доступа и юридической ответственности.

«Результаты форсайт-сессии показывают, что руководители информационной безопасности уже не воспринимают внедрение искусственного интеллекта как обычную автоматизацию отдельных процессов. Речь идёт о перестройке всей системы киберзащиты: изменении численности команд, распределении полномочий, появлении новых расходов и передаче ИИ всё более сложных функций.

Однако я бы обратил внимание на принципиальный момент: чем больше полномочий компания передаёт искусственному интеллекту, тем важнее становится вопрос о том, кто несёт ответственность за последствия его работы», — отметил Игорь Баранов.

Если ИИ-агент получает доступ к корпоративным системам, персональным данным или финансовой информации, ошибка в его настройке либо внешнее вмешательство могут привести к серьёзным последствиям. При этом юридическую ответственность нельзя переложить на нейросеть: в зависимости от обстоятельств её могут нести компания, оператор системы, работодатель, подрядчик или конкретное должностное лицо.

«Если ИИ-агент получает доступ к корпоративным системам, персональным данным, финансовой информации или инфраструктуре, он перестаёт быть просто вспомогательным инструментом. Ошибка в его настройке, некорректная команда или возможность внешнего вмешательства могут привести к утечке информации, нарушению работы сервисов, неправомерному изменению данных и другим существенным последствиям.

При этом юридически ответственность нельзя переложить на нейросеть. В зависимости от обстоятельств её могут нести компания, оператор информационной системы, работодатель, подрядчик или конкретное должностное лицо. Вопрос будет заключаться в том, кто определял порядок использования системы, предоставлял ей доступ, контролировал её работу и должен был предотвратить наступление негативных последствий», — пояснил адвокат.

Отдельного внимания требуют ИИ-агенты, способные самостоятельно выполнять последовательность операций и взаимодействовать с внутренними системами. По словам Игоря Баранова, компаниям необходимо ограничивать их полномочия, фиксировать действия и сохранять возможность остановить работу таких систем. Ещё одна область риска — обработка персональных данных с помощью сторонних нейросетей и облачных сервисов.

«Особенно серьёзный риск возникает при использовании ИИ-агентов, способных самостоятельно выполнять последовательность операций и взаимодействовать с внутренними системами. Если такой агент получает избыточные права доступа, его ошибка или компрометация могут иметь последствия, сопоставимые с действиями недобросовестного сотрудника. Поэтому компаниям необходимо заранее устанавливать ограничения полномочий агентов, вести журналы действий, предусматривать возможность немедленной остановки их работы и сохранять человеческий контроль над критически важными операциями.

Отдельная проблема — персональные данные. Сотрудники могут загружать в сторонние нейросети клиентские базы, договоры, внутреннюю переписку и иную конфиденциальную информацию. В результате данные оказываются в инфраструктуре, условия обработки которой компания может контролировать не в полной мере. Это создаёт риски нарушения требований законодательства о персональных данных, в частности Федерального закона № 152-ФЗ, а при разглашении охраняемой информации могут возникать и дополнительные правовые последствия», — предупредил Игорь Баранов.

Использование иностранных моделей и облачных сервисов также требует юридической оценки. Само по себе применение зарубежного решения не означает автоматического нарушения закона, но компании должны понимать, какие сведения передаются поставщику, где они хранятся и обрабатываются и кто получает к ним доступ.

«Не менее важен вопрос использования иностранных моделей и облачных сервисов. Само по себе применение зарубежного решения не означает автоматического нарушения закона. Но необходимо оценивать, какие сведения передаются поставщику, где они обрабатываются и хранятся, кто получает к ним доступ и соблюдаются ли требования российского законодательства, включая правила трансграничной передачи персональных данных», — отметил эксперт.

Адвокат также обращает внимание на кадровые последствия автоматизации. Сокращение начальных позиций может ослабить подготовку будущих специалистов по информационной безопасности. Кроме того, передача ИИ части функций CISO не снимает с руководителей ответственности за решения, связанные с допустимым уровнем риска и приоритетами защиты.

«Я бы также не стал рассматривать сокращение начинающих специалистов как безусловное преимущество автоматизации. В информационной безопасности именно младшие сотрудники часто формируют кадровый резерв, на котором впоследствии вырастают эксперты и руководители. Если компания заменит начальные позиции ИИ-агентами, но не создаст систему подготовки новых специалистов, через несколько лет она может столкнуться с дефицитом квалифицированных кадров, способных понимать и контролировать работу этих систем.

Наконец, передача искусственному интеллекту части функций CISO — это не просто технологический эксперимент, а вопрос корпоративного управления. Алгоритм может анализировать события, выявлять аномалии, готовить рекомендации и даже запускать заранее определённые процедуры реагирования. Но решения, связанные с допустимым уровнем риска, приоритетами защиты, ограничением доступа сотрудников и последствиями инцидентов, должны оставаться в зоне ответственности уполномоченных людей», — заявил Игорь Баранов.

По мнению эксперта, компаниям придётся учитывать не только расходы на сами модели и вычислительные мощности, но и затраты на аудит алгоритмов, защиту данных, обучение сотрудников и расследование инцидентов. Экономия на персонале и автоматизация рутинных операций без соответствующих механизмов контроля могут привести к более серьёзным финансовым и правовым последствиям.

«На мой взгляд, главный вывод заключается в том, что внедрение ИИ в кибербезопасность требует не только увеличения бюджета на технологии, но и опережающего развития правовых и организационных механизмов контроля. Компаниям придётся инвестировать не только в модели и вычислительные мощности, но и в аудит алгоритмов, защиту данных, обучение сотрудников, управление доступом и расследование инцидентов.

В противном случае экономия на персонале и автоматизация рутинных операций могут обернуться гораздо более серьёзными расходами — от восстановления инфраструктуры и компенсации ущерба до административной и уголовно-правовой ответственности виновных лиц.

Искусственный интеллект способен стать полноценным участником процессов киберзащиты, но он не может стать субъектом, на которого бизнес переложит ответственность за собственные решения. Чем автономнее становятся технологии, тем строже должны быть правила их применения», — резюмировал Игорь Баранов.