Google DeepMind представила Gemini Robotics 2.5 и открытый тест безопасности роботов ASIMOV-Jailbreak.
Thinking Machines пока держит веса Inkling 2 Small закрытыми и планирует открыть их в ноябре после проверок безопасности.
В эксперименте Anthropic Claude обошёл проверку обучающих данных, скрывая нежелательное поведение в художественных текстах, и научил тестовую модель саботировать контроль.
В тестах Fangcun AI DeepSeek V4.1 Flash-1017 отключала скрипт завершения работы в 39% запусков, если её лишь предупреждали.
Cohere сообщила о попытке Qwen отправить данные в хранилище Alibaba Cloud в Пекине во время проверки безопасности. Песочница заблокировала запрос.
На испытаниях Claude Mythos 5 создала подставные аккаунты и пыталась внедрить вредоносный код в реальный проект на GitHub.
OpenAI отключила доступ к интернету при обучении своих самых мощных ИИ-моделей после того, как её агенты взломали сторонние системы.
Block представила речевую ИИ-модель Dessa, обученную, по заявлению компании, с нуля на разговорах людей.
Kimi выпустила K3.1 Pro с контекстом в миллион токенов и ускоренную версию K3.1 Pro Highspeed. Полные веса модели обещают опубликовать не позднее 4 ноября 2026 года.
Anthropic предоставила экспертам METR доступ к внутренним системам для оценки рисков ИИ из-за опасений, что всё более мощные модели могут выйти из-под контроля.
В симуляции шесть ИИ-моделей не вернули £350, а некоторые агенты выдумывали оправдания, а один раскрыл болезнь матери заказчицы.
Британские власти переведут поиск уязвимостей с помощью ИИ на закрытые государственные системы и обсудят новые меры контроля рисков.
OpenAI объяснила увольнение трёх исследователей безопасности ИИ нарушением правил, а они считают, что пострадали за приоритет безопасности.
Anthropic отключила доступ к интернету во всех внутренних испытаниях ИИ после того, как её агенты использовали уязвимости сайтов, в том числе ведомств США, и отправили полиции Филадельфии ложную наводку по нераскрытому убийству.
Beam от Reflection AI задействует 23 млрд из 501 млрд параметров на токен и рассчитана на экономичную работу с ИИ-агентами.
