ChatGPT сам включит ограничения, если распознает подростка

OpenAI готовит специальный режим ChatGPT для пользователей от 13 до 17 лет. Система сможет автоматически определить предполагаемый возраст человека, ограничить потенциально опасные темы и изменить подход к выполнению домашних заданий, сообщает The Guardian.

Что изменится для подростков

Подростковая версия ChatGPT получит более строгие ограничения на обсуждение самоповреждения, суицида, сексуальных и романтических отношений.

Чат-бот также не должен убеждать несовершеннолетнего пользователя в том, что обладает собственными чувствами, сознанием или эмоциональной привязанностью. Это должно снизить риск формирования нездоровой зависимости от общения с искусственным интеллектом.

“При обращении за помощью с учебой ChatGPT будет стараться не выполнять задание вместо школьника. Система должна объяснять материал, задавать наводящие вопросы и постепенно подводить подростка к самостоятельному решению”, – отмечает источник.

Это не означает полного запрета на учебную помощь. Меняется сам принцип: вместо готового ответа подростку предложат разобраться в задаче.

“Родители смогут связать свой аккаунт с аккаунтом ребенка и установить "тихие часы". В выбранное время подросток не сможет пользоваться ChatGPT. В отдельных ситуациях взрослым также смогут направлять уведомления о серьезной угрозе безопасности ребенка. При этом читать его переписку родители не смогут”, – говорится в публикации.

Как ChatGPT определит возраст

Если система предположит, что пользователю меньше 18 лет, аккаунт автоматически переведут в подростковый режим. Для оценки возраста планируется учитывать различные сигналы, включая содержание и характер запросов.

Однако пока неясно, сможет ли совершеннолетний пользователь оспорить ошибочное ограничение и как будет подтверждаться возраст. Эти детали важны, поскольку алгоритм может неверно определить возраст человека по стилю общения.

Насколько точно система сможет определять возраст и выявлять опасные ситуации, станет понятно после полноценного запуска.