ChatGPT păstrează date despre utilizator în 96% dintre cazuri, fără indicația acestuia

Participanții au primit copii ale datelor lor (acest drept este garantat de legislația europeană privind confidențialitatea) și le-au transmis cercetătorilor. În conversațiile a 65 dintre ei au fost identificate 2 050 de înregistrări de memorie, relatează nv.ua

În 96% dintre cazuri, ChatGPT le-a creat sau actualizat fără solicitarea persoanei. Unele înregistrări au apărut ca urmare a unor presupuneri eronate: utilizatorul cerea recomandări de formații asemănătoare cu Nirvana, iar chatbotul consemna că utilizatorului îi place Nirvana.

52% dintre înregistrări vizau starea psihologică a oamenilor: dorințe, intenții, emoții și convingeri. Autorii au numit un astfel de profil „autoportret algoritmic”. Autorul principal, Abhishek Dash, leagă acest lucru de schimbarea rolului platformelor.

„Dar acum [chatboții] chiar vorbesc cu voi, așa că ar putea dori să știe mai multe despre voi pentru a purta un dialog eficient”, spune Dash.

Din februarie, OpenAI afișează reclame în ChatGPT și le poate personaliza pe baza dialogurilor anterioare și a datelor din „memorie” — cu permisiunea utilizatorului. În iunie, compania a actualizat „memoria” botului: de atunci, sistemul sintetizează conținutul conversațiilor și menține un profil care include preferințele, obiectivele și circumstanțele de viață ale persoanei. Lorrie Cranor, directoarea Institutului de Securitate și Confidențialitate CyLab de la Universitatea Carnegie Mellon, compară conversațiile cu chatboții cu o discuție cu un necunoscut într-un tren. Potrivit ei, în lipsa unei licențe cu restricții clare, trebuie pornit de la premisa că dezvoltatorul folosește datele utilizatorului pentru antrenarea modelelor de IA.

„Diferența este că un necunoscut este puțin probabil să înregistreze conversația — se mai întâmplă, dar extrem de rar. IA însă înregistrează cu siguranță conversația”, subliniază Cranor.

Cranor avertizează, de asemenea, că datele dintr-o conversație despre sănătate pot influența pe nesimțite recomandările financiare ale chatbotului.

„Acum toată lumea transferă totul către aceste sisteme conversaționale, așa că, probabil, o parte din această povară cognitivă va trebui preluată înapoi”, spune Dash.

Echipa lui Dash propune folosirea unui „scut de atribuire”: adresarea întrebărilor fără a indica detalii personale, ca într-o căutare pe Google. În loc de „Am diabet, ce să fac cu X”, să se scrie „Ce trebuie să facă un diabetic în cazul lui X”. În plus, în ChatGPT poate fi dezactivată funcția de memorie sau antrenarea modelelor pe baza dialogurilor voastre — însă ștergerea chatului nu garantează că botul va uita ce a auzit.

Abhishek Dash consideră că firmele dezvoltatoare ar trebui să ceară ele însele permisiunea înainte ca produsele lor de IA să înceapă să memoreze ceva.