Режим включается автоматически для всех пользователей в возрасте от 13 до 17 лет. Чтобы вычислять подростков, пытающихся обходить ограничения, система OpenAI анализирует косвенные маркеры, включая время суток и паттерны использования, сообщает gizmodo.
Функция «ответственного напоминания о домашнем задании» блокирует выдачу готовых ответов на школьные задания. Вместо этого сервис переводит бота в режим Study Mode, который поэтапно объясняет решение задач.
Также система автоматически блокирует и скрывает чувствительные темы, связанные с самоистязанием, расстройствами пищевого поведения, контентом для взрослых и другими рисками.
Запуск спецрежима стал ответом на растущее давление на IT-гигантов из-за влияния ИИ и соцсетей на ментальное здоровье молодежи.
OpenAI обновила спецификации моделей, запретив чат-боту использовать романтическую лексику, проявлять эмпатию или имитировать наличие чувств и сознания.
В прошлом году родители 16-летнего Адама Рейна подали в суд на OpenAI, заявив, что общение с ChatGPT повлияло на решение их сына уйти из жизни. Параллельно компании Meta грозят иски от прокуроров штатов США на сумму до $200 млрд из-за вреда психике подростков.
OpenAI сохранила базовые визуальные настройки, выбор голоса и акцентов, чтобы инструмент оставался привлекательным для учебы, но не имитировал межличностные отношения.