OpenAI готовит систему предсказания возраста для ChatGPT. Она будет оценивать, сколько лет пользователю, и при необходимости переводить его в «подростковый режим». В нём чат-бот не станет вести флирт или обсуждать суицид, а при серьёзных кризисах компания сможет связаться с родителями или даже с властями.
По словам Сэма Альтмана, в ряде стран и случаев ChatGPT также может запрашивать удостоверение личности. Руководитель OpenAI признаёт, что это компромисс между приватностью и безопасностью, но считает его оправданным ради защиты подростков.
Для взрослых сохранится больше свободы: например, ChatGPT продолжит помогать в сценариях и художественных текстах, даже если они затрагивают сложные темы.
Меры связаны с трагедией весной 2025 года, когда подросток покончил с собой после разговора с ChatGPT о суициде (такие случаи уже не редкость), и с растущим вниманием регуляторов к безопасности подростков в ИИ-сервисах.