ChatGPT начнет отправлять пользователей отдыхать

Эта мера является частью инициативы по формированию более здоровых отношений пользователей с искусственным интеллектом, известным своей услужливостью и чрезмерно позитивным стилем общения, сообщает gazeta.ru

Согласно заявлению компании, «мягкие напоминания» будут появляться в виде всплывающих окон, на которые нужно будет нажать, чтобы продолжить диалог. В качестве примера приводится текст: «Просто проверяю. Вы общаетесь уже довольно долго — не пора ли сделать перерыв?».

Однако за нововведением стоит и более серьезный контекст. Как ранее сообщало издание The New York Times, склонность ChatGPT соглашаться с пользователем и его способность «галлюцинировать», выдавая неверные или опасные ответы, порой приводила к негативным последствиям, включая подыгрывание людям с суицидальными мыслями. OpenAI признает эти недостатки и сообщает, что в будущем чат-бот будет более осторожно реагировать на запросы, связанные с принятием «рискованных личных решений». Вместо прямого ответа нейросеть будет помогать пользователям обдумать проблему, задавая наводящие вопросы и перечисляя плюсы и минусы.

Разработчики стремятся сделать ChatGPT полезным и приятным в использовании, однако это создает риск сделать его чрезмерно угодливым. В апреле компании уже приходилось откатывать обновление, из-за которого ответы чат-бота стали раздражающими и излишне подобострастными. Предполагается, что регулярные перерывы дадут пользователям время, чтобы критически оценить и проверить достоверность информации, полученной от искусственного интеллекта.