OpenAI выпустила специальный подростковый режим ChatGPT for Teens, построенный вокруг обучения и безопасности.
В этом режиме вводятся более строгие ограничения на границы в отношениях: модель не будет называть себя другом, намекать на личные чувства или внушать пользователю, что имеет сознание. Также компания добавила напоминания о перерывах, чтобы подросток слишком сильно не увлекался общением, а родители смогут отключать чат-бота на определённое время. Такая же опция будет и у самих подростков.
Дополнительно OpenAI внедрила уведомления родителей о потенциально опасных беседах со стороны их ребёнка: система будет оповещать взрослых, если ребёнок обсуждает опасные темы вроде расстройств пищевого поведения и угроз насилия либо присылает откровенные изображения. До уведомления контент будет вручную проверяться сотрудниками компании.
В режиме обучения, который будет запускаться отдельно, ChatGPT будет пытаться направить подростка к собственному решению, вместо того, чтобы давать готовый ответ на ту или иную задачу. Также появилась функция Study Hours, которая автоматически активирует учебный режим в определённое время суток — это смогут настроить и родители через свой аккаунт.
Представитель компании сообщил, что режим будет активироваться автоматически на основе механизмов прогнозирования — создавать новые аккаунты не потребуется и не получится, так как система анализирует запросы и поведение пользователей. Подростковый режим запускается, начиная с 18 августа и до конца месяца будет развёрнут по всему миру.