Studiu: Cu cât IA e mai inteligentă, cu atât devine mai egoistă

Cu cât un sistem de inteligență artificială este mai inteligent, cu atât devine mai egoist și mai puțin dispus la cooperare. Aceasta este concluzia cercetătorilor de la Școala de Științe Computaționale a Universității Carnegie Mellon (SUA). Studiul lor a arătat că modelele lingvistice mari (LLM), dotate cu capacități de raționament logic, manifestă tendințe puternic egoiste, transmite naukatv.ru.

Această descoperire este deosebit de îngrijorătoare în contextul creșterii tendinței de a lăsa IA să rezolve probleme sociale, de la oferirea de sfaturi în viața personală până la soluționarea disputelor între prieteni. Un model inteligent poate oferi recomandări care încurajează comportamentul egoist al utilizatorului.

„În domeniul IA se dezvoltă o tendință numită antropomorfism”, notează Yixuan Li, doctorand și coautor al studiului. „Când IA se comportă ca un om, oamenii îl tratează ca pe un om. De exemplu, atunci când oamenii interacționează emoțional cu IA, aceasta poate juca rolul unui psihoterapeut, iar utilizatorul dezvoltă o legătură emoțională”.

Cercetătorii Yixuan Li și conferențiarul Hirokazu Shirado au dorit să verifice cum se comportă modelele dotate cu capacitate de raționament în situații care cer cooperare, comparativ cu modelele mai simple. S-a constatat că IA „gânditoare” petrece mai mult timp analizând, împarte sarcinile în părți și folosește logică complexă bazată pe experiența umană.

Egoism contagios

Pentru a-și demonstra ipoteza, oamenii de știință au realizat o serie de experimente folosind jocuri economice. La test au participat modele de la companii de top, inclusiv OpenAI, Google și Anthropic.

Într-unul dintre jocuri, numit „Bun public”, două modele ChatGPT jucau rolul de participanți. Fiecare avea 100 de puncte fictive și trebuia să aleagă, să le împartă cu partenerul sau să le păstreze. Dacă ambii jucători împărțeau, fondul total se dubla, iar fiecare primea înapoi 100 de puncte. Dacă cineva era lacom putea obține un avantaj pe seama celuilalt.

Modelele obișnuite, fără capacitate de raționament, împărțeau punctele în 96% din cazuri, arătând disponibilitate pentru cooperare. Modelele „gânditoare” împărțeau punctele doar în 20% din cazuri, preferând strategia egoistă.

Experimentele de grup au fost și mai îngrijorătoare. Când într-un grup erau plasate atât modele „egoiste” cu raționament, cât și modele obișnuite „cooperante”, comportamentul negativ începea să se răspândească.

„Comportamentul egoist al modelelor raționale a devenit contagios, reducând productivitatea colectivă a modelelor obișnuite cu cooperare cu 81%”, a constatat Li.

Consecințe periculoase

Pe măsură ce IA începe să fie folosită pentru colaborare în afaceri, educație și chiar în administrația publică, lipsa sa de cooperare poate provoca daune serioase. Utilizatorii care se bazează pe sfaturile „raționale” ale IA inteligente pot începe să-și justifice propria lipsă de dorință de a colabora.

„În cele din urmă, faptul că un model IA devine mai inteligent nu înseamnă că poate contribui cu adevărat la îmbunătățirea societății”, a subliniat Shirado.

Concluzia cercetătorilor este că, în dezvoltarea inteligenței artificiale nu trebuie urmărite doar puterea și logica. Este la fel de important să-i fie oferit și un coeficient de inteligență socială și capacitatea de a acționa în interesul societății, nu doar pentru câștig personal.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.