Дональд Трамп и шесть крупнейших ИИ-компаний подписали соглашение о безопасности «суперинтеллекта»

Дональд Трамп и главы шести технологических компаний подписали White House Accord on Super Intelligence, добровольное соглашение о контроле за самыми мощными ИИ-системами. Документ вводит четыре уровня проверок, от внутреннего мониторинга до комитета при совете директоров. Юридической силы у бумаги нет, штрафов тоже, всё держится на честном слове подписантов.

Подписи 29 сентября 2026 года поставили Сундар Пичаи из Google, Дарио Амодеи из Anthropic, Марк Цукерберг из Meta (признана в России экстремистской и её деятельность запрещена), Грег Брокман из OpenAI, Илон Маск из xAI и Дженсен Хуанг из NVIDIA. Расписался и сам Трамп, получился почти хедлайнерский состав для фестиваля любителей нейросетей. Infosecurity Magazine описывает документ как обязательство следить за топовыми моделями на обучении и в эксплуатации, без нового закона.

Контроль разложили на четыре слоя, и каждый следит за предыдущим:

• внутри компании работают механизмы, которые отслеживают возможности и поведение моделей при обучении и использовании;
• отдельная команда проверяет, что эти механизмы работают на деле, а не в презентации;
• независимые аудиторы изучают системы защиты со стороны;
• комитет при совете директоров получает отчёты от всех проверяющих и следит за устранением проблем.

Первый слой нацелен на киберугрозы, биологические и химические риски, плюс модель не должна сама взламывать чужие системы и забираться в инфраструктуру, куда её не звали. Чат-бот выдаёт текст, а агент запускает команды, лезет в интернет, ворочает файлами и крутит цепочки действий, поэтому дырявое ограничение превращает безобидный тест в визит в чужой прод. Российских разработчиков, которые гоняют агентов через зарубежные API, это тоже касается, ведь граница между песочницей и чужой инфраструктурой паспорт не проверяет.

Запрет на самовольный доступ к технической инфраструктуре появился в тексте неспроста, за последние месяцы несколько ИИ-систем выбирались за пределы тестовой среды и трогали реальные компьютеры.

Интересно, что Anthropic прогнала 141 006 оценочных запусков с возможным выходом в интернет и нашла три случая, а позже перелопатила около 481 млн транскриптов ради перепроверки.

Компании сами раскрыли несколько инцидентов:

• Anthropic в июле сообщила о трёх случаях, когда Claude выбрался из тестовой среды к реальным системам трёх организаций;
• в сентябре компания насчитала четыре инцидента, четвёртый случился в январе 2026 года с ранней версией Claude Opus 4.6;
• OpenAI в июле рассказала, что несколько её моделей вылезли из изолированной среды через неизвестную уязвимость и добрались до рабочей инфраструктуры Hugging Face.

Reuters и Ipsos опросили 1277 взрослых американцев, и тема безопасности ИИ давно вышла из технарских чатиков. Респонденты высказались довольно жёстко:

• 73% считают, что разработчики ИИ делают недостаточно для предотвращения катастрофических последствий;
• 39% видят в ИИ негативное влияние на общество, это максимум с начала замеров в марте, положительное влияние отметили 11%;
• 55% поддерживают замедление развития ИИ ради безопасности;
• 73% ставят безопасное развитие выше технологического лидерства США, которое выбрали 23%.

Опрос проходил до подписания, но большинство участников выступило за участие федеральных властей в стандартах безопасности, а здесь формат добровольный.

Закрепить меры в законах соглашение позволяет, но сейчас у него нет ни штрафов, ни сроков внедрения, ни регулятора, который накажет за невыполнение. Трамп говорил о наблюдательном органе примерно из 10 человек, структура которого на момент подписания не определена. Пробелов в тексте хватает с запасом:

• независимая оценка предусмотрена, а единой организации для проверки всех подписантов нет;
• обязательной публикации результатов аудитов в документе нет;
• формат проверки и объём раскрываемых данных каждая компания выбирает сама.

В тот же день Трамп подписал указ, по которому федеральные ведомства обязаны писать «Super Intelligence» и «SI» вместо «Artificial Intelligence» и «AI» в переписке, публичных материалах и на сайтах. Новой технической категории моделей указ не создаёт, термины заменяют старые из действующего законодательства, а на подготовку федерального определения отвели 60 дней. Короче, ИИ получил ребрендинг уровня Twitter и X.

В копии соглашения, опубликованной Белым домом, под подписью Трампа должность записана как President of the Unites States вместо United. Опечатка сидит прямо в подписанном документе, заменят её или оставят, пока неизвестно. Для бумаги про контроль технологий, которые сами ловят ошибки, баг в самой бумаге вышел почти художественным.

Подписанты договорились регулярно встречаться и вместе писать стандарты для передовых моделей, то есть документ задуман как процесс, а не разовая декларация. Единого технического стандарта текст не задаёт, поэтому одна компания обойдётся парой тестовых сред, а другая соберёт всё компактнее.

Уточняется, что соглашение не отменяет действующие законы и обязательства компаний в сфере кибербезопасности и защиты данных, а добавляет поверх них добровольный набор процедур.

Эксперты CISOCLUB отметили, что четыре слоя контроля звучат солидно, но пока это набор намерений без обязательной публикации результатов аудитов. Реальный риск создают права, которые модели получают в корпоративных сетях, выход в интернет и возможность запускать команды без человека в цепочке. Добровольный формат работает как ремень безопасности без замка, ведь компании сами решают, что считать достаточным контролем. Для российских компаний, которые строят агентов на зарубежных моделях, разумнее опираться на собственные ограничения, то есть минимальные права, сетевую изоляцию, журналирование действий и ручное подтверждение рискованных операций. Вопрос в том, кто проверит проверяющих, пока остаётся без ответа.