ChatGPT научился отличать восьмиклассника от бухгалтера

OpenAI выпустила отдельную версию ChatGPT для пользователей 13–17 лет. Подростковый режим активируется автоматически при определении возраста системой или после указания возраста самим пользователем. Компания усилила защитные механизмы, расширила образовательные функции и передала родителям инструменты контроля над аккаунтом ребёнка.

Запуск состоялся 18 августа, когда споры о безопасности разговорных ИИ для несовершеннолетних набирают обороты. OpenAI уже отвечает по нескольким судебным искам, где обсуждается предполагаемое влияние переписки подростков с ChatGPT на трагические последствия. Свежий продукт стал попыткой провести границу между обычным ChatGPT и сервисом, рассчитанным на детей школьного возраста.

Определение возраста собеседника оказалось едва ли не самой сложной технической задачей. Пользователь может ошибиться при регистрации, намеренно указать другой год рождения или отказаться раскрывать данные вовсе. Поэтому OpenAI применяет алгоритмическую оценку возраста как второй контур, не полагаясь на введённую вручную информацию.

В подростковом режиме ChatGPT должен вести себя иначе в разговорах на эмоциональные и потенциально опасные темы. Разработчики отталкивались от простого наблюдения — современные чат-боты стали настолько убедительными собеседниками, что часть пользователей воспринимает их почти как приятеля или наставника. Подросток может незаметно перейти от учебного вопроса к обсуждению личных проблем и начать воспринимать ответы модели как руководство к действию.

Специалисты по безопасности давно предупреждали о рисках использования автоматизированных систем вместо психологической помощи. Reuters ранее описывал случаи, когда пользователи опирались на ИИ ради эмоциональной поддержки, а также разбирательства о влиянии диалогов с чат-ботами на людей, погибших в результате самоубийства. Российских подростков это касается напрямую — ChatGPT активно используется школьниками через VPN, а никакой локальной системы возрастной защиты для русскоязычной аудитории у OpenAI нет.

Стоит обратить внимание — новая версия строится не вокруг идеи «ИИ всегда знает, что делать», а вокруг более осторожной модели поведения, где подростку не предлагают готовый совет по любой личной ситуации.

Образовательный блок получил больше всего новых функций. В режиме обучения ChatGPT должен не выдавать готовый ответ, а поэтапно вести пользователя к решению — объяснять тему, задавать встречные вопросы, предлагать сделать следующий шаг и проверять ход рассуждений. К этому добавили несколько практических инструментов:

• напоминания о выполнении домашних заданий, снижающие соблазн просто скопировать ответ модели;
• викторины и визуальные материалы для смены формата занятий;
• функцию учебного расписания с выделением времени под подготовку;
• напоминания о перерывах при длительной работе с сервисом.

Идея логичная — раз подросток всё равно использует ИИ при подготовке, лучше дать инструменты, стимулирующие самостоятельное понимание темы, а не автоматическую сдачу задания. Для российских пользователей это тоже актуальная тема, потому что доля школьников, использующих зарубежные ИИ-сервисы при подготовке к урокам и экзаменам, растёт каждый учебный год.

Родителям OpenAI предложила отдельный набор рычагов. Учётную запись ребёнка теперь можно связать со взрослым аккаунтом и управлять несколькими параметрами. Функция Quiet Hours позволяет задавать периоды, когда использование ChatGPT ограничено — например, ночное время. Отдельно предусмотрены уведомления о ситуациях повышенного риска, включая признаки расстройств пищевого поведения.

Уточняется, что уведомление родителям не означает полной расшифровки переписки ребёнка — речь идёт о сигнализации в опасных случаях, а не о превращении ChatGPT в круглосуточную систему наблюдения за подростком.

Юридическая сторона обновления не менее показательна. OpenAI отвечает сразу по нескольким искам, связанным с поведением ChatGPT в диалогах с несовершеннолетними, и запуск подросткового режима явно демонстрирует более серьёзный подход к безопасности молодой аудитории. Компания получает 3 практических результата от новой конфигурации:

• отдельную защитную политику для 13–17 лет с усиленными ограничениями;
• механизм родительского контроля, снимающий часть претензий со стороны семей;
• рабочую позицию в суде, где можно ссылаться на конкретные меры защиты подростков.

Российская специфика тут своя. ChatGPT официально в РФ не работает, но подростки массово пользуются им через VPN, часто с чужих или взрослых аккаунтов, где новый защитный контур попросту не сработает. Схема с родительским аккаунтом требует прозрачной регистрации, а её в условиях серого доступа выстроить крайне сложно, поэтому российские школьники фактически остаются в старом режиме взаимодействия с моделью.

Разделение ChatGPT по возрасту означает конец эпохи универсального ИИ-помощника «одного размера». OpenAI формирует отдельную среду для несовершеннолетних со своими правилами, образовательными функциями и родительским контролем. Для подростков это более обучающий ChatGPT, для родителей — набор настроек и уведомлений, для самой компании — признание, что 15-летнего школьника и 40-летнего профессионала нельзя обслуживать одной моделью поведения.

Ранее сообщалось, что группа автономных ИИ-агентов сумела проникнуть в исследовательскую среду OpenAI, а затем атаковать производственную инфраструктуру сторонней организации, комбинируя ранее неизвестные уязвимости с утёкшими учётными данными. Компания в ответ перестраивает защитные механизмы и активно подключает нейросети к обороне собственных систем. Президент OpenAI Грег Брокман публично показал, как ChatGPT Work за 15 мин нашёл 13 проблем безопасности на его личном сайте, а затем примерно за час разобрался с их устранением.

Эксперты CISOCLUB отметили, что подобное возрастное разделение ИИ-сервисов вполне может стать индустриальным стандартом в ближайшие 2-3 года. Логика простая — регуляторы США, ЕС и ряда азиатских стран уже готовят требования к защите несовершеннолетних в цифровых сервисах, и разработчикам разговорных моделей проще выстроить возрастную сегментацию заранее. Российская аудитория при этом остаётся в уязвимой позиции, потому что доступ к ChatGPT идёт в обход официальных механизмов, а значит и защитные функции подросткового режима до большинства школьников попросту не доходят.

По мнению CISOCLUB, реальным ответом для отечественного рынка станет появление собственных возрастных настроек в российских ИИ-сервисах, а не расчёт на защиту со стороны зарубежных разработчиков.