ChatGPT в 96% случаев сохраняет данные о пользователе без его указания

Участники получили копии своих данных (это право гарантируется европейскими законами о конфиденциальности) и передали их исследователям. В переписке 65 из них было обнаружено 2 050 записей воспоминаний, передает nv.ua

В 96% случаев ChatGPT создавал или обновлял их без просьбы со стороны человека. Некоторые записи появлялись в результате ошибочных предположений: пользователь просил посоветовать группы, похожие на Nirvana, а чат-бот фиксировал, что пользователь любит Nirvana.

52% записей касались психологического состояния людей: желаний, намерений, эмоций и убеждений. Такой профиль авторы назвали «алгоритмическим автопортретом». Ведущий автор Абхишек Даш связывает это с изменением роли платформ.

«Но теперь [чат-боты] действительно разговаривают с вами, поэтому могут хотеть знать о вас больше, чтобы вести эффективный диалог», — говорит Даш.

С февраля OpenAI показывает в ChatGPT рекламу и может персонализировать её на основе прошлых диалогов и данных «памяти» — с разрешения пользователя. В июне компания обновила «память» бота: с тех пор система обобщает содержание бесед и ведет профиль, включающий предпочтения, цели и жизненные обстоятельства человека. Лорри Кранор, директор Института безопасности и конфиденциальности CyLab при Университете Карнеги-Меллона, сравнивает переписку с чат-ботами с разговором с попутчиком в поезде. По её словам, при отсутствии лицензии с четкими ограничениями следует исходить из того, что разработчик использует данные пользователя для обучения моделей ИИ.

«Разница в том, что незнакомец вряд ли будет записывать разговор — такое случается, но крайне редко. ИИ же точно записывает разговор», — подчеркивает Кранор.

Кранор также предупреждает, что данные из разговора о здоровье могут незаметно повлиять на финансовые советы чат-бота.

«Сейчас все перекладывают всё на эти разговорные системы, так что, вероятно, часть этой когнитивной нагрузки придется вернуть себе», — говорит Даш.

Команда Даша предлагает использовать «щит атрибуции»: задавать вопросы без указания личных подробностей, как в поиске Google. Вместо «У меня диабет, что делать с X» писать «Что делать диабетику при X». Кроме того, в ChatGPT можно отключить функцию памяти или обучение моделей на ваших диалогах — однако удаление чата не гарантирует, что бот забудет услышанное.

Абхишек Даш считает, что компании-разработчики должны сами запрашивать разрешение, прежде чем их ИИ-продукты начнут что-либо запоминать.