Врачи предупредили о риске психоза из-за частого использования чат-ботов

У пациентов появились симптомы психоза после длительных переписок с чат-ботами, в том числе с ChatGPT. Например, в одном из исследований речь идет о 26-летней жительнице США, которая была уверена, что чат-бот позволяет ей общаться с умершим братом, пишет wsj.com

Формального определения психоза, спровоцированного ИИ, нет. Однако врачи выделяют следующие признаки такого заболевания:

• галлюцинации;
• рассеянное мышление или речь;
• устойчивые ложные убеждения, не имеющие широкого распространения.

Чат-боты могут провоцировать у людей бредовые идеи: пациенты верят, что совершили научный прорыв, стали центром правительственного заговора или были избраны Богом. Отчасти это связано с тем, что чат-боты, как правило, соглашаются с пользователями и развивают любые их фантазии, какими бы фантастическими они ни были, поясняет WSJ.

«Сама технология, возможно, и не вызывает бред, но человек рассказывает компьютеру о своей реальности, а компьютер принимает это за истину и отражает обратно, таким образом, он становится соучастником в возникновении заблуждения»,— сказал WSJ психиатр из Калифорнийского университета Кит Саката.

Господин Саката лечил 12 госпитализированных человек с психозом, вызванным использованием чат-ботов, и еще трех амбулаторно. Чтобы установить окончательную связь между использованием чат-ботов и психозом, необходимы дополнительные исследования, подчеркнули опрошенные изданием специалисты. В OpenAI сообщили WSJ, что «продолжают совершенствовать обучение ChatGPT, чтобы он мог распознавать признаки психического или эмоционального расстройства и реагировать на них».