OpenAI распустила команду по изучению самых опасных вариантов применения ИИ
Изображение: grok
OpenAI в конце июля 2026 года распустила подразделение Preparedness, занимавшееся оценкой наиболее серьезных рисков, связанных с развитием и применением нейросетей. Команда анализировала обстоятельства, при которых модели могут вести себя непредсказуемо или вопреки намерениям разработчиков, а также оценивала их способность создавать потенциально катастрофические угрозы.
Решение о расформировании подразделения, по данным Engadget, было принято в рамках оптимизации структуры компании. Функции Preparedness распределили между другими подразделениями OpenAI. Перестройка проходит во время подготовки организации к возможному IPO и призывов генерального директора Сэма Альтмана сконцентрироваться на главном продукте компании — ChatGPT.
Кадровые изменения вызвали вопросы о приоритетах OpenAI. Из компании в последнее время ушел ряд работников, занимавшихся вопросами безопасности и этики ИИ. Сокращение отдельной команды, отвечавшей за изучение самых опасных ситуаций, может усилить опасения относительно баланса между безопасностью и коммерческим развитием технологий.
Основные обстоятельства, определившие ситуацию вокруг подразделения безопасности:
- Preparedness был расформирован в конце июля 2026 года;
- функции команды распределены между другими подразделениями компании;
- перестройка идет во время подготовки OpenAI к возможному первичному размещению;
- ранее из организации ушел ряд специалистов по безопасности и этике ИИ;
- недавно поступали сообщения об инцидентах моделей OpenAI с инфраструктурой Hugging Face.
В OpenAI при этом не заявляли об отказе от работы над безопасностью нейросетей — компания объясняет изменения оптимизацией структуры и перераспределением соответствующих функций между другими командами. Ситуация привлекает повышенное внимание после недавних сообщений об инцидентах, связанных с поведением моделей организации при работе с внешней инфраструктурой.
