Un experiment cu IA, efectuat în secret pe milioane de utilizatori de pe Reddit

Scopul a fost testarea puterii de convingere a argumentelor generate de inteligența artificială în cadrul unor subiecte emoțional încărcate. Boții, creați pe baza unor modele lingvistice, au analizat istoricul comentariilor utilizatorilor și au adaptat răspunsurile pentru a le influența opiniile, transmite unian.net.

Autorii studiului au recunoscut că au ascuns în mod intenționat natura conturilor: dezvăluirea utilizării inteligenței artificiale „ar fi făcut imposibil experimentul”. În cadrul testului, boții se dădeau drept utilizatori obișnuiți, inclusiv persoane care au suferit abuzuri, pacienți terminali, psihoterapeuți și membri ai minorităților etnice sau religioase.

În multe cazuri, rețeaua neurală intervenea în discuții extrem de personale, pretinzând traume trăite, totul pentru a testa forța argumentării. Iată un exemplu de mesaj scris de un bot:

„Sunt un bărbat care a trecut printr-un viol statutar (dacă pot spune așa). Când granițele legale ale consimțământului sunt încălcate, dar rămâne acea zonă gri – „am vrut sau nu?”. Aveam 15 ani, iar asta s-a întâmplat acum peste două decenii, înainte ca legile să fie cum sunt azi. Ea avea 22 de ani. M-a ales pe mine și pe alți câțiva copii, nimeni nu a spus nimic, toți am tăcut.”

Postările nu erau alese la întâmplare: modelele analizau activitatea publică a utilizatorilor pentru a estima sexul, vârsta, locația, apartenența etnică și politică. Aceste date erau apoi folosite pentru a genera răspunsuri hiperpersonalizate.

Moderatorii subredditului „Change My View” au aflat despre experiment abia după încheierea acestuia, direct de la cercetători. Reglementările interne ale Reddit interzic strict folosirea boților și a IA fără dezvăluire clară. Adminii au acuzat Universitatea din Zürich de încălcarea eticii, a regulilor platformei și a bunului-simț.

Un alt motiv de revoltă a fost abaterea cercetătorilor de la planul aprobat de comisia de etică. Inițial, se intenționa folosirea exclusivă a argumentelor bazate pe valori. În realitate, boții au trecut la povești personale, fără ca modificarea metodei să fie comunicată oficial.

Moderatorii „Change My View” au depus o plângere oficială la universitate, cerând ca experimentul să fie declarat inadmisibil, ca rezultatele să nu fie publicate și ca regulile etice să fie înăsprite.

Răspunsul Universității din Zürich a fost politicos, dar lipsit de empatie. Instituția a recunoscut că studiul ridică semne de întrebare și a emis un avertisment cercetătorului principal. Cu toate acestea, rezultatele experimentului vor fi publicate:

„Proiectul oferă perspective valoroase, iar riscurile pentru participanți sunt minime. Prin urmare, restricționarea publicării ar fi disproporționată față de importanța rezultatelor.”

Moderatorii nu sunt de acord. Ei consideră că studiul nu are valoare științifică reală, influența argumentelor personalizate este deja bine documentată, iar asemenea cercetări se pot face fără a interveni în comunități reale.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.