Новая функция ChatGPT вызывает тревогу: бот знает имя пользователя

В Сети нарастает обеспокоенность из-за нового поведения чат-бота ChatGPT от OpenAI. Пользователи отмечают, что теперь он начал обращаться к ним по имени, даже если они никогда ранее не сообщали его в чате, передает Finratings.kz.

Это изменение вызвало волну недоверия и активные обсуждения в соцсетях, особенно на платформе X (ранее Twitter).

«Жутко и ненужно»: реакция пользователей

Некоторые пользователи описывают происходящее как «навязчивое» и «неуместное». Один из них сравнил это с учителем, который постоянно называет ученика по имени: «Это заставляет чувствовать себя неуютно». Разработчик и активист в сфере ИИ Саймон Уиллисон прямо назвал новую функцию «жуткой и ненужной», выразив сомнение в необходимости подобной степени персонализации.

Причина — «память» или баг?

Пока неизвестно, является ли изменение следствием внедрения новой функции памяти ChatGPT, которая позволяет ИИ сохранять и использовать информацию из прошлых разговоров. Особенно тревожно, что некоторые пользователи столкнулись с обращениями по имени даже после того, как отключили память и персонализацию в настройках.

Компания OpenAI пока не дала точного объяснения, с чем связано поведение чат-бота и когда именно была внедрена эта функция. Пользователи подозревают, что это произошло в рамках серии последних обновлений моделей GPT-4o и GPT-4-mini, в которых активно развиваются возможности Memory with Search — персонализированного поиска с учётом прошлых данных.

OpenAI успокаивает, но скепсис остаётся

По официальным заявлениям OpenAI, память можно просматривать, редактировать и полностью отключать в настройках. Компания утверждает, что данные хранятся исключительно для улучшения взаимодействия с конкретным пользователем и не передаются третьим лицам.

Тем не менее, заявления генерального директора OpenAI Сэма Альтмана о том, что в будущем ИИ «будет узнавать вас на протяжении всей жизни» для повышения эффективности, вызывают у части аудитории настороженность, а не воодушевление.