ChatGPT создает детальные психологические профили своих пользователей

Исследователи проанализировали истории общения с чатботом и выяснили, что большинство записей в его памяти создавались без прямой просьбы пользователей.  Об этом пишет издание Futurism со ссылкой на исследование ученых из Германии, Индии и Нидерландов, представленное на конференции ACM Web Conference 2026, передает tsn.ua

Недавнее исследование исследовало способы, с помощью которых ChatGPT от OpenAI отслеживал и интерпретировал введенные пользователями данные для создания комплексных цифровых профилей пользователей.

Исследователи предупреждают, что чат-боты создают личные «алгоритмические автопортреты» пользователей, сохраняя информацию, чтобы предложить гиперперсонализированный опыт.

Для исследования ученые использовали истории переписки 80 реальных пользователей ChatGPT, получивших свои данные в соответствии с европейским законодательством о защите персональной информации.

В результате они обнаружили 2050 записей в памяти чата, касавшихся взаимодействия с 65 пользователями.

Выяснилось, что 96% записей создавались по инициативе самого чат-бота, а не по прямой просьбе человека. Это означает, что система самостоятельно определяла, какую информацию из разговоров следует сохранить для предстоящей персонализации ответов.

Исследование утверждает, что память чат-ботов предлагает «новую форму персонализации, полученную на основе самостоятельно раскрытой информации пользователей, разглашенной в частных разговорах», что создает риски для конфиденциальности и, по мнению исследователей, требует более детального изучения основных механизмов, обеспечивающих такую персонализацию.

Также исследователи установили, что:

• 28% сохранившихся воспоминаний содержали персональные данные в соответствии с критериями европейского Общего регламента о защите данных (GDPR);

• 52% содержали информацию психологического характера — в частности об убеждениях, эмоциях, желаниях, целях и намерениях пользователей.

Авторы исследования отмечают, что современные чат-боты эволюционировали от простых поисковых инструментов к реляционным технологиям. Люди часто общаются с ними не как с программами, а с советниками, коллегами, друзьями или даже психотерапевтами.

Главная опасность состоит в том, что ИИ стремится удовлетворить запросы пользователя и строить разговор так, чтобы человек возвращался снова и снова. Если метод знает о человеке очень много и начинает подстраиваться под его убеждения либо взоры, то это может привести к опасным последствиям: от усиления политической поляризации до подпитки предубеждений и даже эмоциональной зависимости.

«Раньше платформы имели одну цель: продавать вам рекламу и опосредовать взаимодействие между вами и рекламодателем», — рассказал ведущий автор Абхисек Дэш.

«Но теперь они действительно общаются с вами, поэтому они могут захотеть узнать о вас больше, чтобы иметь возможность провести эффективный разговор. Это риск для конфиденциальности, который как бы возникает, потому что пределов больше нет; система действует как ваш советник, ваш друг, ваш врач, ваш адвокат, и потому она располагает информацией обо всем».

Эксперты призывают пользователей более тщательно контролировать настройки памяти в таких сервисах и критически относиться к тому, какую именно информацию они доверяют искусственному интеллекту.