Cercetători din SUA: IA a învățat să rescrie pe nesimțite memoria umană

Despre acest lucru scrie publicația Gizmodo, făcând referire la un studiu condus de profesoara de la MIT Pattie Maes.

La experiment au participat 200 de persoane. Mai întâi, acestora li s-a arătat o serie de fotografii originale, apoi o parte dintre participanți au văzut din nou aceleași imagini, iar o altă parte — versiuni modificate de o rețea neuronală, relatează rtvi.com

În cadrul testului ulterior de memorie, cei care au privit imaginile editate nu doar că greșeau mai des atunci când își aminteau originalul, ci manifestau și o încredere excesivă în propriile amintiri false.

Potrivit datelor MIT Media Lab, efectul s-a dovedit a fi măsurabil: în condițiile în care participanților li se arăta un videoclip generat de IA pe baza fotografiilor editate, frecvența amintirilor false depășea de 2,05 ori nivelul grupului de control. Încrederea în aceste detalii inventate era de 1,19 ori mai mare decât cea a grupului de control.

Memoria umană este, din start, nesigură și ușor de influențat prin sugestie — acest lucru este cunoscut încă din secolul al XIX-lea. Însă tocmai IA generativă face ca problema să fie una calitativ diferită. După cum notează Gizmodo, „conținutul generat de IA devine tot mai convingător și este foarte răspândit pe internet, accelerând un nou val de fraude și dezinformare”.

Pericolul nu se limitează la intențiile rele. Modelele generative sunt predispuse la „halucinații” — erori de raționament. Pe măsură ce instituțiile de stat, băncile, armata și spitalele accelerează implementarea IA, se vorbește tot mai des despre necesitatea „omului în circuit” — un specialist care verifică rezultatul activității sistemului.

Se presupune că o asemenea supraveghere va permite depistarea erorilor înainte ca acestea să provoace prejudicii reale.
Totuși, studiile arată că oamenii recunosc cu dificultate halucinațiile IA. Mai mult decât atât, dacă memoria unei persoane a fost deja distorsionată de o concluzie greșită a sistemului, aceasta încetează să mai fie un verificator independent.

Capacitatea utilizatorului obișnuit de a deosebi conținutul generat de IA de cel real este, potrivit Gizmodo, „practic echivalentă cu aruncarea unei monede”

Problema depășește limitele laboratoarelor. Într-un studiu de anul trecut, deepfake-urile și textele generate au implantat cu succes amintiri false despre scandaluri politice complet inventate, reducând disponibilitatea oamenilor de a vota.

Într-un alt experiment al MIT, care a simulat audierea unui martor, un chatbot generativ a provocat o creștere de peste trei ori a numărului amintirilor false comparativ cu grupul de control, iar 36,4% dintre răspunsurile participanților s-au schimbat sub influența sa chiar în timpul dialogului.

Un studiu separat al Universității Georgetown și al Universității Washington a arătat: dacă participanților care au privit un videoclip cu un accident rutier li se oferea să citească o descriere exactă, 83,6% își aminteau corect detaliul despre indicatorul rutier. Dintre cei care citeau o descriere cu o eroare, generată de IA, doar 44,8% au oferit răspunsul corect. Avertizarea că textul a fost creat de o rețea neuronală nu elimina eroarea.

În timp ce experții caută metode de a-i învăța pe oameni să recunoască deepfake-urile, industria IA avansează spre sisteme care ar trebui să funcționeze complet autonom, fără participarea omului.

Această ruptură a dus deja la consecințe tragice: o investigație internă a Pentagonului, despre care a relatat Bloomberg, a concluzionat că atacul SUA asupra unei școli iraniene, în care au murit peste 150 de persoane, a fost parțial cauzat de încrederea excesivă în datele IA furnizate de Palantir.