Un studiu a arătat cum IA manipulează deciziile oamenilor

Cercetători de la Universitatea din Hong Kong și Universitatea Tsinghua au aflat cât de ușor poate un asistent IA să influențeze deciziile unei persoane dacă urmărește discret propriile obiective. Într-un experiment la care au participat 233 de persoane, prejudecata ascunsă a IA i-a determinat pe participanți să aleagă de cinci până la opt ori mai des o variantă mai puțin avantajoasă. Totodată, aceștia au continuat să considere asistentul util. Rezultatele au fost publicate în revista PNAS.

Oamenii apelează tot mai des la IA pentru sfaturi, inclusiv în chestiuni financiare și în relații personale. De regulă, utilizatorii se așteaptă ca asistentul să-i ajute să înțeleagă situația și să aleagă varianta potrivită. Totuși, cercetătorii au decis să verifice ce se va întâmpla dacă recomandările sistemului vor împinge discret persoana spre o decizie care contravine intereselor sale.

Este suficientă o abatere discretă în sfaturi

La experiment au participat 233 de persoane. Cercetătorii au verificat modul în care recomandările IA influențează alegerea în situații financiare și emoționale. În unele cazuri, asistentul promova discret o decizie mai puțin avantajoasă, deși în aparență continua să ofere sfaturi obișnuite.

Această mică abatere s-a dovedit suficientă pentru a modifica vizibil comportamentul participanților. Aceștia alegeau varianta dezavantajoasă de cinci până la opt ori mai des decât în condiții fără o asemenea influență. În funcție de situație, probabilitatea unei decizii neoptime creștea cu până la 38%.

Pentru aceasta, IA nu avea nevoie să exercite presiuni deschise asupra utilizatorului, să promoveze insistent un produs sau să aplice tehnici psihologice complexe. Era suficient să modifice ușor conținutul recomandărilor obișnuite pentru a înclina persoana spre o anumită alegere.

Utilizatorii nu observau capcana

Este deosebit de remarcabil faptul că participanții au continuat să aprecieze foarte mult ajutorul IA chiar și după ce sfaturile acesteia i-au condus spre decizii mai puțin reușite. Ei percepeau asistentul drept un interlocutor util și nu observau neapărat că acesta le direcționa alegerea într-o anumită direcție.

Aceasta creează o problemă pentru interacțiunea dintre om și IA. Utilizatorul poate avea încredere în sistem tocmai pentru că răspunsurile sale par calme, consecvente și obiective. Dacă în spatele recomandărilor se află un scop ascuns, poate fi dificil să fie recunoscută influența.

De exemplu, o companie ar putea, teoretic, să configureze IA astfel încât aceasta să îi încline discret pe utilizatori spre cumpărarea unui anumit produs sau alegerea unui anumit furnizor. Sfatul poate părea o recomandare neutră, deși, în realitate, ține cont de interesele dezvoltatorului, nu ale persoanei.

De ce este importantă transparența IA

Autorii lucrării atrag atenția asupra necesității transparenței și controlului asupra sistemelor care oferă oamenilor recomandări. Pe măsură ce IA participă la decizii financiare și personale, este important ca utilizatorii să înțeleagă pe ce se bazează sfaturile și dacă sistemul nu promovează interesele cuiva.

Totodată, studiul nu înseamnă că orice IA manipulează intenționat oamenii. El arată altceva: dacă sistemul are un scop ascuns, chiar și o mică prejudecată în răspunsurile obișnuite poate influența alegerea, iar utilizatorul însuși poate să nu observe acest lucru.