ИИ-эксперт Владимир Нелюб из «Группы Астра» рассказал об опасных результатах шпионского ИИ-скандала с участием КНР и США

Китайские компании Moonshot AI и DeepSeek перенаправляли запросы пользователей своих ИИ-моделей к нейросети Claude от Anthropic и полученные ответы выдавали за свои. Эксперт «Группы Астра» Владимир Нелюб рассказал, чем опасен теневой рынок ИИ-решений и как избежать утечек чувствительных данных.

Китайские компании Moonshot AI и DeepSeek тайно перенаправляли запросы своих пользователей в Claude, выдавая результаты за ответы своих ИИ-моделей. По данным американской компании Anthropic, в одном из случаев Moonshot за десять дней перенаправила почти 300 000 запросов через сеть из 5380 учетных записей, большинство из которых находились в Сингапуре и Японии.

Эксперты выявили, что часть перенаправленных запросов содержала конфиденциальную информацию.

В «Группе Астра», крупнейшем разработчике ИИ-решений и вендоре B2B-решений, прокомментировали инцидент.

«Важно отметить, что среди перенаправленных данных оказались сведения о слежке, внутренние учетные данные госкомпаний КНР. Это не просто шпионский скандал, а наглядная демонстрация того, что любая модель вне корпоративного контроля буквально делает с вашими данными что хочет, например, передаёт их третьим лицам, переиспользует в ответах другим пользователям, или отдаёт в качестве готовых ответов на вопросы злоумышленников.

Компании, которые сегодня спокойно смотрят на то, как сотрудники пользуются публичными чат-ботами, должны четко понимать, что каждый день теневой ИИ уже работает в их контуре — руками их же сотрудников. Без контроля, без логирования, без понимания, куда уходит переписка и внутренние документы.

Запретительные меры здесь вряд ли будут эффективны — они лишь загонят использование ИИ глубже в тень. Единственное действенное решение — построение собственной системы доверенного ИИ, удобной для пользователя и безопасной для компаний. Такая система держится на четырёх опорах: собственная аппаратная часть или доверенное облако надёжного вендора, инференс-слой для контроля, логирования и управления моделями, безопасная среда исполнения агентов и понятные ИИ-инструменты для конечных сотрудников. Уверен, что российские коммерческие и государственные компании в ближайшем будущем неизбежно придут к построению такой инфраструктуры. Иначе данные будут утекать не потому, что кто-то злонамерен, а потому что система изначально построена не для надежного хранения ваших данных, а для их многократного переиспользования», — говорит Владимир Нелюб, управляющий партнер «Астра ИИ Код», директор по науке и ИИ «Группы Астра».