OpenAI притормозила «взрослый» режим в ChatGPT из-за рисков и ошибок проверки возраста

OpenAI отложила запуск «взрослого» режима в ChatGPT после реакции консультантов по безопасности. Идея не закрыта и остаётся в планах, но выпуск решили перенести.

Осенью 2025 года Сэм Альтман обсуждал возможность дать совершеннолетним пользователям доступ к более откровенным диалогам с ИИ. Концепция выглядела как расширение свободы общения, но при подготовке к запуску внутри компании начались серьёзные разногласия.

По данным The Wall Street Journal, совет по безопасности выступил против быстрого внедрения. Участники обсуждения пришли к выводу, что спешка может привести к последствиям, которые сложно контролировать. Один из главных рисков связан с тем, что часть пользователей может начать воспринимать чат-бот как замену живому общению.

Проблема проверки возраста оказалась не менее серьёзной. Во время тестов система иногда ошибалась и принимала несовершеннолетних за взрослых. Доля таких случаев доходила примерно до 12%, а при большой аудитории это означает доступ к нежелательному контенту для значительного числа пользователей.

Сложности возникли и с модерацией. Разрешить более откровенные диалоги и при этом удержать их в допустимых рамках оказалось труднее, чем ожидалось. Граница между разрешённым и запрещённым контентом размывается, а автоматические фильтры не всегда точно реагируют на нюансы.

В обсуждениях звучали и более жёсткие оценки. По информации источников, один из участников совета заявил, что при слабых ограничениях продукт может негативно влиять на психологическое состояние пользователей.

При этом OpenAI не отказывается от идеи. Рассматривается более сдержанный вариант без генерации откровенных изображений, аудио и видео. Также планируется добавлять напоминания о важности общения с реальными людьми, а не только с алгоритмами.

Проект не закрыт и находится на доработке. Компания ищет баланс между свободой общения и контролем, чтобы не превратить эксперимент в источник проблем.