Эксперт рассказал компаниям, как пользоваться нейросетями и не подарить им корпоративные данные

Компании могут существенно снизить риски утечки информации при работе с искусственным интеллектом, если будут запускать используемые модели внутри собственного защищённого контура. В подобном случае данные поступают в систему для обработки, но не покидают инфраструктуру организации. Об этом НСН рассказал эксперт по кибербезопасности Александр Дворянский.

Александр Дворянский пояснил, что сегодня риски при использовании ИИ вполне поддаются контролю. Главная проблема возникает тогда, когда сотрудники отправляют рабочую информацию во внешние нейросетевые сервисы, не представляя, где она хранится и кто потенциально может получить к ней доступ.

Эксперт считает наиболее безопасным вариантом размещение модели непосредственно на территории компании и применение её собственных вычислительных ресурсов. При работе в изолированной инфраструктуре сведения могут поступать в систему для обработки, но не должны уходить во внешний интернет.

Совсем иначе выглядит работа со сторонними платформами. Компании нередко используют их не только для простых вопросов или поиска идей, но и поручают нейросетям подготовку презентаций, документов и других рабочих материалов. Если вместе с заданием в сервис отправляются реальные корпоративные сведения, контроль над дальнейшей судьбой этой информации становится значительно слабее.

Пользователь зачастую просто не задумывается о маршруте собственных данных. Отправленный в сторонний сервис документ может храниться неизвестно где, обрабатываться в другой стране и попадать под законодательство чужой юрисдикции. Для бизнеса такая потеря контроля способна оказаться гораздо неприятнее, чем обычная ошибка при работе с программой.

Александр Дворянский предлагает не впадать в техноапокалипсис. Современная нейросеть пока не обладает самостоятельностью в том смысле, который позволял бы рассматривать её как независимого участника событий. Практически любую задачу системе формулирует человек, а полученный результат также оценивает и использует человек.

Разумный набор действий для бизнеса эксперт свёл к нескольким правилам:

• не отправлять конфиденциальные материалы во внешние сервисы;
• размещать модели во внутренней защищённой инфраструктуре;
• ограничивать доступ сотрудников к чувствительным сведениям при работе с ИИ;
• помнить, что любой внешний сервис становится участником обработки информации.

Нейросетевые инструменты могут помогать искать известные уязвимости и выполнять связанные с ними действия, но сами по себе не превращаются в автономного хакера, который самостоятельно выбирает глобальную цель и начинает действовать без участия оператора. Поэтому Александр Дворянский считает преждевременными разговоры о том, что искусственный интеллект уже представляет масштабную угрозу для всего человечества.

Тема рисков ИИ прозвучала и в высказываниях Билла Гейтса. Американский предприниматель ранее заявил, что технологический бизнес может преуменьшать потенциальные проблемы, связанные с развитием нейросетей, поскольку компаниям нужны инвестиции и дальнейшее финансирование. Специалисты внутри индустрии могут относиться к перспективам технологии гораздо осторожнее, чем это выглядит со стороны.

Чем умнее становится цифровой помощник, тем ответственнее стоит подходить к работе с ним. Нейросеть действительно способна сильно ускорить работу, но вместе с удобством появляется необходимость понимать, какие сведения ей доверяются и где они окажутся после нажатия кнопки отправки.

Ранее сообщалось о новой мошеннической схеме, в которой злоумышленники представляются соседями, пугают жильцов подозрительным человеком у двери и присылают вредоносный файл под видом «видео с камеры», получая доступ к смартфонам жертв.