Conversațiile cu chatboții pot să nu fie la fel de private pe cât par

Marile companii care dezvoltă inteligență artificială folosesc conversațiile utilizatorilor pentru a antrena modelele lor. Acest lucru ridică întrebări serioase despre confidențialitate și subliniază necesitatea unei politici mai transparente, transmite naukatv.ru.

Luna trecută, compania Anthropic și-a schimbat termenii de utilizare: conversațiile cu chatbot-ul lor Claude sunt acum folosite implicit pentru antrenarea modelului, dacă utilizatorul nu refuză. Dar Anthropic nu este singura. Studiul de la Stanford a arătat că șase companii americane de top — Amazon, Anthropic, Google, Meta, Microsoft și OpenAI — folosesc datele utilizatorilor pentru a îmbunătăți modelele. Unele oferă posibilitatea de a refuza, altele nu, și acest lucru se face fără știrea utilizatorilor. Studiul a fost publicat pe serverul arXiv.

De ce este important pentru utilizatori

„Desigur, este motiv de îngrijorare. Dacă împărtășiți informații confidențiale cu ChatGPT, Gemini sau alte modele avansate, acestea pot fi folosite pentru antrenare, chiar dacă le-ați trimis într-un fișier separat,” spune Jennifer King, cercetător la Institutul Stanford de IA centrat pe om.

Echipa de la Stanford a studiat politica de confidențialitate a dezvoltatorilor și a descoperit câteva aspecte îngrijorătoare: stocarea pe termen lung a datelor, folosirea informațiilor despre copii, lipsa generală de transparență și nesiguranța documentelor.

„Consumatorii ar trebui să se gândească de două ori înainte de a împărtăși ceva personal și, pe cât posibil, să refuze utilizarea datelor lor pentru antrenare. Toate acestea intră într-o rețea comună,” adaugă King.

Politica de confidențialitate este depășită

Regulile moderne de confidențialitate, aplicate chatboților, sunt adesea scrise într-un limbaj juridic complex. Consumatorilor le este greu să înțeleagă exact ce semnează, deși consimțământul este necesar pentru utilizarea serviciilor.

În ultimii ani, dezvoltatorii au antrenat modelele pe volume uriașe de informații de pe Internet. Aceasta înseamnă că datele personale ar fi putut ajunge accidental în seturile de antrenament.

„Sute de milioane de oameni interacționează cu chatboții, iar cercetările privind măsurile de confidențialitate aproape că nu s-au făcut,” explică King.

În SUA, protecția datelor este complicată de legile de la nivel de stat și lipsa unei reglementări federale.

Ce a arătat studiul Stanford

Cercetătorii au comparat politicile a șase companii, inclusiv Amazon (Nova), Anthropic (Claude), Google (Gemini), Meta (Meta AI), Microsoft (Copilot) și OpenAI (ChatGPT). Ei au analizat 28 de documente: politici principale, subpolitici, secțiuni FAQ și ghiduri din interfețele chat-urilor.

Cercetătorii au verificat:

• dacă datele din chat sunt folosite pentru antrenarea modelelor;

• ce categorii de date sunt colectate, stocate și procesate;

• dacă utilizatorii au posibilitatea de a-și da sau retrage consimțământul.

Granițe neclare

Toate cele șase companii folosesc datele din chat implicit. Unele le păstrează nelimitat, altele susțin că de-identifică datele înainte de utilizare. La mulți dezvoltatori, interacțiunile utilizatorilor sunt combinate cu informații din alte servicii — căutări, cumpărături, rețele sociale.

Aceste practici sunt deosebit de problematice dacă utilizatorii împărtășesc date biometrice sau medicale. De exemplu, la solicitarea unei rețete pentru diabet sau probleme cardiace, algoritmul poate „identifica” utilizatorul ca parte a unui grup vulnerabil, ceea ce în timp poate influența publicitatea, asigurarea și alte aspecte ale vieții.

„Aceste informații pătrund în ecosistemul dezvoltatorilor. Începi să vezi reclame pentru medicamente și este ușor de înțeles cum datele ar putea ajunge la compania de asigurări,” explică King.

Confidențialitatea copiilor

Practicile referitoare la copii variază. Google colectează datele adolescenților cu consimțământ, Anthropic interzice conturile sub 18 ani, dar nu verifică vârsta, iar Microsoft colectează date despre copii, dar nu le folosește pentru antrenarea modelelor de limbaj, ci pentru publicitate. Toate acestea nu mai sunt private.

Cum să protejăm datele

Cercetătorii recomandă dezvoltatorilor și factorilor de decizie să implementeze o reglementare federală cuprinzătoare a confidențialității, consimțământ voluntar al utilizatorilor pentru antrenare și filtrare automată a informațiilor personale.

„Societatea trebuie să decidă dacă creșterea capacităților AI merită o pierdere atât de mare de confidențialitate. Este necesar să promovăm inovații în AI care protejează confidențialitatea, astfel încât datele personale ale utilizatorilor să nu rămână o problemă secundară,” concluzionează King.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.