Anthropic предложила регулировать сверхмощный ИИ по примеру ядерного оружия за неделю до IPO на триллион долларов

Anthropic выступила с предложением создать механизм, способный временно останавливать разработку самых мощных ИИ-моделей, если безопасность и регулирование начнут отставать от темпов отрасли. Заявление прозвучало в момент, когда компания готовится к выходу на биржу с оценкой около 965 млрд долларов. Авторы публикации опасаются, что искусственный интеллект скоро начнёт активно создавать собственных преемников, и контроль над процессом будет утрачен.

Текст подготовили сооснователь Anthropic Джек Кларк и исследователь Марина Фаваро. Они разбирают концепцию рекурсивного самоулучшения — состояния, при котором модель перестаёт быть инструментом и превращается в активного соавтора следующих поколений ИИ. По логике авторов, прогресс в таком режиме определяется уже не количеством инженеров в офисах, а вычислительными возможностями самих систем. Человек физически не успевает за машиной, которая разгоняет сама себя.

Реализовать международную паузу будет крайне непросто, и в самой Anthropic это признают. По задумке компании, договорённости должны напоминать соглашения по ядерному оружию, где крупные лаборатории принимают единые правила, а государства допускают независимые проверки. Сложность в другом — построить новый дата-центр или запустить тренировку модели куда легче спрятать, чем построить урановый завод. Соблазн уйти в закрытый режим и выиграть несколько месяцев у конкурентов будет огромным для любой корпорации или страны.

Стоит обратить внимание, что Anthropic давно играет роль самой осторожной из крупных лабораторий, противопоставляя себя OpenAI, откуда пришла часть её основателей.

Любопытное противоречие лежит на поверхности. Компания рассуждает о рисках сверхмощного ИИ и одновременно агрессивно наращивает выручку, продаёт корпоративные продукты на базе Claude и расширяет вычислительные мощности. Призыв замедлиться звучит из уст игрока, который сам бежит изо всех сил.

Финансовая хроника последних недель усиливает этот эффект. Anthropic объявила о завершении раунда Series H объёмом 65 млрд долларов, после чего оценка компании подобралась к 965 млрд. Деньги планируют пустить сразу по нескольким направлениям:

• исследования безопасности искусственного интеллекта;
• развитие интерпретируемости моделей;
• расширение вычислительной инфраструктуры;
• доработка экосистемы Claude;
• подготовка к выходу на публичные рынки.

Сразу после закрытия раунда Anthropic подала конфиденциальную форму S-1 в Комиссию по ценным бумагам и биржам США, формально запустив процесс IPO. Если сделка состоится по верхней границе оценки, она войдёт в число самых громких размещений технологического сектора за последние годы.

Меняется и позиция Вашингтона. 2 июня президент США Дональд Трамп подписал указ о развитии и безопасности передовых ИИ-систем. Документ усиливает защиту государственных информационных систем и объектов критической инфраструктуры, а Министерству финансов поручено создать отдельный центр координации по кибербезопасности ИИ совместно с отраслью и владельцами критически важных объектов.

Общественное давление выглядит не менее ощутимым. Опрос Gallup показал, что около 70% американцев не хотят жить рядом с новым дата-центром, а 48% настроены резко против. Раздражают людей вполне приземлённые вещи:

• огромное потребление воды;
• высокая нагрузка на электросети;
• рост тарифов ЖКХ для соседних домохозяйств;
• ухудшение состояния местных дорог из-за стройки;
• шум систем охлаждения.

Интересно, что ещё несколько лет назад дискуссии об ИИ упирались в количество видеокарт и параметры моделей, а теперь упираются в подстанции, градирни и литры воды.

В Европе ситуация заметнее, чем в США. Новые площадки для облачных сервисов и обучения моделей упираются не только в дефицит ускорителей, но и в физические пределы энергосистем отдельных стран. Где-то проще найти кластер GPU, чем согласовать подключение к сети нужной мощности.

Самая занятная часть публикации Anthropic касается внутренней кухни компании. Разработчики признают, что роль инженера меняется на глазах. Сотрудник теперь чаще ставит задачу, а Claude пишет код, прогоняет проверки, работает с файлами и помогает выстраивать исследовательские эксперименты. Раньше люди собирали программные компоненты руками, теперь они проверяют то, что выдала модель.

Парадокс в том, что именно человеческая проверка может стать главным тормозом дальнейшего ускорения. Если Claude начнёт выдавать изменения быстрее, чем команда успевает их читать, скорость разработки упрётся уже не в мощность модели, а в физические возможности ревьюера. Узким местом становится не GPU, а пара глаз.

Цифры из самой Anthropic выглядят показательно:

• к маю 2026 года Claude писал свыше 80% кода, попадавшего в корпоративную кодовую базу;
• до запуска Claude Code в исследовательском режиме в феврале 2025 года показатель измерялся единицами процентов;
• доля ручного программирования внутри компании продолжает падать каждый месяц.

Сам Claude Code тоже не стоит на месте. В инструмент добавили систему ранней проверки безопасности — она автоматически разбирает создаваемый код, ищет потенциально опасные конструкции, инъекции и попытки обхода авторизации ещё до того, как изменения попадают в основной процесс разработки.

Ранее вышел отчет Anthropic о школьниках с нейросетями, которые становятся опаснее опытных хакеров. Аналитики компании изучили 832 заблокированных аккаунта и пришли к выводу, что языковые модели работают как цифровой наставник для злоумышленников с нулевой подготовкой. Доля опасных участников за год выросла с 33 до 56%.

Эксперты редакции CISOCLUB уверены, что нынешний шаг Anthropic — это не только забота о безопасности, но и грамотный пиар-ход перед IPO. Компания закрепляет за собой образ ответственного игрока, что повышает доверие со стороны инвесторов и регуляторов. При этом реальная пауза в гонке ИИ выглядит маловероятной — слишком велики ставки и слишком легко скрыть обучение модели за закрытыми дверями.

Гораздо реалистичнее сценарий, при котором крупные лаборатории согласятся на формальные протоколы аудита, не сбавляя темпов разработки. Регуляторам стоит готовиться к миру, где код пишет не человек, а другая модель, и выстраивать процедуры проверки именно под эту реальность. Иначе любые соглашения рискуют остаться красивыми декларациями.