OpenAI ограничит ответы ChatGPT подросткам об оружии, а всем пользователям — о массовых нападениях
Изображение: OpenAI
ChatGPT перестанет давать подросткам практические сведения об оружии и системах безопасности, даже если вопрос выглядит безобидным и нет признаков намерения применить насилие. Для всех пользователей сервис ограничит подробности о массовых нападениях и их исполнителях, даже если эти сведения доступны в интернете. Новые меры начнут вводить в ближайшие недели.
OpenAI подчеркнула, что ограничения на подробности прошлых массовых нападений будут действовать независимо от возраста пользователя и причины вопроса. ChatGPT не будет воссоздавать ход нападения, в том числе рассказывать, какое оружие использовал нападавший и как он его получил. Сервис также откажется от подробного сравнения вреда, причинённого разными нападениями, даже если эти сведения доступны в интернете.
При этом можно будет обсуждать последствия для пострадавших и местных сообществ, а также признаки возможного насилия.
ChatGPT сможет автоматически завершать разговоры при признаках зацикленности на насилии или причинении тяжёлого вреда другому человеку. После нескольких таких случаев OpenAI может временно приостановить доступ к аккаунту.
OpenAI сообщила, что доработала систему определения возраста, которая оценивает по поведению и другим признакам, есть ли пользователю 18 лет. Теперь она постоянно учитывает новые данные и при необходимости переводит пользователя в подростковый режим; взрослые, попавшие туда по ошибке, могут подтвердить возраст через партнёра OpenAI по проверке возраста Persona.
Компания сообщила, что в третьем квартале 2026 года направила правоохранительным органам более 200 обращений.
Первый отчёт о мерах по предотвращению насилия OpenAI обещает выпустить в начале 2027 года. Он охватит вторую половину 2026 года и будет содержать обезличенные примеры и данные; затем отчёты будут выходить каждые полгода.
В августе OpenAI уже ввела меры защиты подростков, но в октябре Common Sense Media назвала подростковую версию ChatGPT небезопасной для несовершеннолетних. При этом восемь штатов США подали иски к OpenAI из-за вреда детям. Техас предъявил иск компании и Сэму Альтману.
