ChatGPT creează profiluri psihologice detaliate ale utilizatorilor săi

Cercetătorii au analizat istoricul conversațiilor cu chatbotul și au constatat că majoritatea înregistrărilor din memoria acestuia au fost create fără solicitarea directă a utilizatorilor. Despre acest lucru scrie publicația Futurism, cu referire la un studiu al oamenilor de știință din Germania, India și Țările de Jos, prezentat la conferința ACM Web Conference 2026, transmite tsn.ua

Un studiu recent a analizat modalitățile prin care ChatGPT de la OpenAI urmărea și interpreta datele introduse de utilizatori pentru a crea profiluri digitale complexe ale acestora.

Cercetătorii avertizează că chatboții creează „autoportrete algoritmice” personale ale utilizatorilor, stocând informații pentru a oferi o experiență hiperpersonalizată.

Pentru studiu, oamenii de știință au utilizat istoricul conversațiilor a 80 de utilizatori reali ai ChatGPT, care și-au obținut datele în conformitate cu legislația europeană privind protecția informațiilor cu caracter personal.

În urma studiului, ei au identificat 2050 de înregistrări în memoria chatului, referitoare la interacțiunile cu 65 de utilizatori.

S-a constatat că 96% dintre înregistrări au fost create la inițiativa chatbotului însuși, și nu la solicitarea directă a unei persoane. Aceasta înseamnă că sistemul decidea de unul singur ce informații din conversații trebuie păstrate pentru personalizarea ulterioară a răspunsurilor.

Studiul susține că memoria chatboturilor oferă „o nouă formă de personalizare, obținută pe baza informațiilor dezvăluite de utilizatori din proprie inițiativă în conversații private”, ceea ce creează riscuri pentru confidențialitate și, în opinia cercetătorilor, necesită o examinare mai detaliată a mecanismelor de bază care asigură o astfel de personalizare.

De asemenea, cercetătorii au stabilit că:

• 28% dintre amintirile păstrate conțineau date cu caracter personal, în conformitate cu criteriile Regulamentului general european privind protecția datelor (GDPR);

• 52% conțineau informații de natură psihologică — în special despre convingerile, emoțiile, dorințele, obiectivele și intențiile utilizatorilor.

Autorii studiului notează că chatboții moderni au evoluat de la simple instrumente de căutare la tehnologii relaționale. Oamenii comunică adesea cu aceștia nu ca cu niște programe, ci ca cu niște consilieri, colegi, prieteni sau chiar psihoterapeuți.

Principalul pericol constă în faptul că IA tinde să satisfacă solicitările utilizatorului și să construiască discuția astfel încât persoana să revină iar și iar. Dacă modelul știe foarte multe despre o persoană și începe să se adapteze convingerilor sau opiniilor sale, acest lucru poate duce la consecințe periculoase: de la accentuarea polarizării politice până la alimentarea prejudecăților și chiar a dependenței emoționale.

„Anterior, platformele aveau un singur scop: să vă vândă publicitate și să intermedieze interacțiunea dintre dumneavoastră și advertiser”, — a declarat autorul principal, Abhishek Dash.

„Dar acum ele comunică cu adevărat cu dumneavoastră, așa că ar putea dori să afle mai multe despre dumneavoastră pentru a putea purta o conversație eficientă. Acesta este un risc pentru confidențialitate care apare, într-un fel, deoarece nu mai există limite; sistemul acționează ca un consilier al dumneavoastră, prietenul dumneavoastră, medicul dumneavoastră, avocatul dumneavoastră și, prin urmare, dispune de informații despre tot”.

Experții îndeamnă utilizatorii să controleze mai atent setările de memorie în astfel de servicii și să manifeste o atitudine critică față de informațiile pe care le încredințează inteligenței artificiale.