60% сотрудников используют ИИ с собственных аккаунтов для работы
изображение: recraft
Россияне активно используют искусственный интеллект для работы, по оценкам экспертов, порядка 25% российских работников применяют ИИ-модели для решения профессиональных задач. При этом порядка 60% граждан используют для этого собственные аккаунты в популярных нейросетях. Эксперты “Кросстеха” указывают, что это создает дополнительные риски безопасности, например, утечки или заражения вредоносным ПО.
Специалисты компании указывают, что использование собственных аккаунтов для работы в нейросетях является одним из проявлений теневого ИТ-ресурсов, которые используются для решения рабочих задач, хранения и обработки корпоративной информации, но не находятся под контролем ИТ и ИБ-служб.
Практика использования личных аккаунтов ИИ-моделях для решения рабочих задач связана с рядом факторов. Во-первых, доступ к популярным зарубежным нейросетям, например, ChatGPT или Claude, в России ограничен. Частным и корпоративным пользователям приходится ухищряться, чтобы оплатить подписку и обеспечить стабильную работу. Многие компании не готовы организовывать подобные процессы, поэтому сотрудники используют личные аккаунты для работы. Во-вторых, российские модели зачастую отстают от иностранных по ряду возможностей, но их легче подключить для корпоративного использования. Чтобы закрыть недостающий функционал, пользователи могут использовать личные подписки.
В “Кросстехе” также выделяют ряд рисков, связанных с использованием личных аккаунтов в рабочих целях для безопасности бизнеса. Прежде всего это утечка конфиденциальной информации: причем речь не только о том, что загруженные в нейросеть данные будут использованы для ее обучения и впоследствии будут выдаваться при ответе другим пользователям. Этот функционал можно отключить в настройках, однако загрузка чувствительной информации в чат все равно будет утечкой, создающей дополнительные риски. Наибольшая опасность здесь — взлом личных аккаунтов и выгрузка чувствительной информации из чатов, которые пользователь мог не удалить.
Другая важная проблема — мошенничество с подписками. По данным “Кросстеха”, с начала года появилось более 400 фишинговых ресурсов, где пользователям предлагали якобы оформить подписки на иностранные сервисы. Вместо этого жертвы теряют средства, персональную информацию, а иногда доступ, например, к мессенджерам. Еще одна проблема использования ИИ для решения корпоративных задач — галлюцинации моделей. По оценкам специалистов, в зависимости от сложности задач для наиболее продвинутых моделей фейковые ответы могут составлять 15%. При невнимательной работе с ИИ это создает риски для стабильности бизнес-процессов и безопасности: например, ошибочные данные от ИИ могут привести к неправильным выводам аналитиков, а ошибка в коде, созданном моделью, — к нарушениям в стабильности инфраструктуры и безопасности.
“Важно понимать, что не каждый случай использования собственного аккаунта в нейросети является потенциальным инцидентом информационной безопасности. Если пользователь просит ChatGPT собрать и структурировать общедоступную информацию о каком-нибудь явлении, перенести в таблицу данные, которые не являются чувствительными, то это вполне безопасное использование ИИ. Проблемы возникают в случаях, когда в сторонние сервисы загружаются клиентские данные, финансовая отчетность компании, внутренняя документация или иная конфиденциальная информация. В такой ситуации организация может столкнуться с серьезными рисками и утечкой чувствительных данных. Поэтому процесс использования нейросетей и любых других внешних ресурсов должен быть строго регламентирован. Сотрудники должны понимать, какие действия являются безопасными, а какие — категорически нельзя осуществлять. Кроме того, компаниям важно регулярно проводить обучение сотрудников по безопасному использованию ИИ-инструментов, поскольку именно недостаток осведомленности чаще всего становится причиной инцидентов”, — говорит Анастасия Мельникова, руководитель департамента оценки защищенности “Кросстеха”.
