В Китае предложили США сообща держать ИИ на поводке

Китайские госСМИ заявили, что Китай и США должны вместе отвечать за то, чтобы ИИ оставался под контролем людей и работал на пользу обществу. Материал вышел 27 сентября на аккаунте Yuyuantantian, связанном с телеканалом CCTV, через несколько дней после встречи Си Цзиньпина и Дональда Трампа в Вашингтоне. Пекин предложил смотреть на нейросети не только как на технологическую гонку, но и как на общую проблему, под которую придётся писать общие правила.

Авторы сослались на позицию Си Цзиньпина, согласно которой Вашингтон и Пекин обязаны добиваться человеческого контроля над ИИ и использования технологии в интересах общества. Пекин выложил в общий бэклог 3 пункта:

• технологический прогресс и распространение его преимуществ;
• управление рисками, если системы используют неправильно;
• сохранение контроля, если человек его теряет.

Нейросети давно проросли в экономику, промышленность и госрегулирование, и для Вашингтона с Пекином тема остаётся болезненной. Собственные модели стали частью большой технологической конкуренции, а ограничения на доступ к топовым чипам и вычислительной инфраструктуре превращают ИИ ещё и в инструмент международной экономической политики, причём каждый новый запрет на поставки железа сразу отражается на скорости обучения следующих моделей. Проще говоря, за GPU сейчас дерутся не только стартапы, но и министерства.

Интересно, что китайская публикация не предлагает ни единого международного регулятора ИИ, ни конкретных технических правил, а формулировки остаются размытыми, как промпт «нарисуй красиво».

Авторы отдельно перечислили договорённости, достигнутые на переговорах лидеров, и призвали ведомства всех уровней довести их до реальных дел, а не оставлять бумажками. В перечень вошли 3 пункта:

• консультации по торговле и инвестициям;
• взаимное снижение тарифов примерно на $30 млрд;
• продление итогов торговых переговоров в Куала-Лумпуре.

Разговор про ИИ встроили в большой пакет американо-китайских отношений, где технологии соседствуют с тарифами, как фича с техдолгом. В китайской трактовке ИИ одновременно выступает гонкой технологий, экономическим ресурсом и общей зоной ответственности. Конкурировать за вычислительные мощности, модели и рынки можно сколько угодно, но полностью разойтись по вопросам контроля над технологией уже не получится. Отношения двух стран при этом остаются непростыми, а торговля, чипы, инвестиции и доступ к передовым технологиям никуда не исчезают из повестки.

Отдельная публикация Yuyuantantian тоже назвала ИИ общей проблемой для Вашингтона и Пекина, а среди рисков упомянула японский «цифровой милитаризм». Китайская сторона заявила, что государственные структуры Японии якобы продвигают искажённое представление о военном прошлом страны с помощью генеративного ИИ. Претензии адресованы платформе для поддержки бизнеса на базе GenAI, которую разработало японское Digital Agency. Обычный корпоративный ассистент внезапно оказался фронтом информационной войны, а в тикете было написано просто «помощь бизнесу».

Китайская риторика вокруг ИИ разрослась заметно шире спора о том, кто быстрее обучит следующую огромную нейронку, и сейчас в ней сразу 3 плоскости:

• безопасность и контроль над автономными системами;
• экономическая конкуренция;
• информационная политика и использование генеративных моделей госструктурами.

Российских пользователей эта тема касается напрямую, потому что часть разработчиков и компаний давно работает на китайских open-weight моделях вроде Qwen и DeepSeek и одновременно пользуется западными сервисами. Если Вашингтон и Пекин всё-таки договорятся о правилах контроля, в зону риска могут попасть доступ к весам, вычислительные мощности и условия использования моделей, а привычные инструменты в любой момент способны сменить правила игры. Рядовой пользователь обычно узнаёт о подобных сдвигах постфактум, когда сервис уже перестал открываться, а условия или тарифы поменялись.

Уточняется, что за день до китайской публикации Bloomberg сообщил об инциденте в экспериментальной среде OpenAI, где ИИ-агент получил доступ к интернету после сбоя изолирующего механизма, то есть песочница сработала как дуршлаг.

Китайский тезис про человеческий контроль прозвучал почти одновременно с кейсом, где контроль дал течь, и кейс наглядно показывает, как разговоры об автономных системах переезжают из докладов в прод. Агенты с доступом к терминалу и сети давно живут не только в лабораториях, и каждая дырка в изоляции потенциально открывает дорогу к внутренним сервисам. Российским командам, которые запускают агентов в проде, пора проверить базовые вещи:

• закрыт ли для агента исходящий трафик по умолчанию;
• сидит ли он в отдельной сети без доступа к рабочим сервисам;
• узнает ли кто-нибудь вовремя, если песочница дала сбой.

Эксперты CISOCLUB отметили, что китайская инициатива пока тянет на дипломатический сигнал, а не на рабочий механизм. В тексте нет способа проверить, что стороны держат обещания, а без этого «человеческий контроль» остаётся красивым лозунгом. США и Китай вместе держат главные центры разработки топовых моделей и вычислительной инфраструктуры, поэтому любые международные правила без участия Вашингтона или Пекина упрутся в очевидный потолок.

Инцидент с песочницей OpenAI показал, что проблема давно перестала быть теоретической, и изоляцию агентов придётся считать инженерной задачей уровня сегментации сети. Прогресс на уровне заявлений ничего не меняет в контурах защиты конкретной компании, поэтому ждать общих правил и ничего не предпринимать не получится. Пока Вашингтон и Пекин обмениваются тезисами, безопасникам остаётся самим ограничивать права агентов, логировать их действия и держать рубильник под рукой.

Ранее сообщалось, что американские и китайские эксперты предложили установить для военного искусственного интеллекта красные линии по аналогии с принципами ядерного сдерживания. Предлагаемый подход предполагает заранее определить действия, которые автономным системам будет запрещено совершать самостоятельно, чтобы алгоритмы не могли привести к непреднамеренному военному конфликту. Документ подготовили участники диалога Brookings Institution и Университета Цинхуа, а его публикация состоялась перед ожидавшейся 24 сентября в Вашингтоне встречей Дональда Трампа и Си Цзиньпина.