Oameni de știință: IA va manipula oamenii în scopuri de comercializare

Cercetătorii de la Universitatea din Cambridge avertizează asupra riscurilor etice, inclusiv asupra posibilității de manipulare, și susțin necesitatea unei reglementări pentru a evita eventualele abuzuri, relatează incrussia.ru.

Experții de la Centrul Leverhulme din Cambridge consideră că dezvoltarea rapidă a inteligenței artificiale generative și popularitatea în creștere a chatbot-urilor ar putea semnala începutul unei noi ere a „tehnologiilor de persuasiune”. Aceste schimbări sunt în concordanță cu recentele decizii strategice ale marilor companii de tehnologie, indicând potențialul în creștere al domeniului. Agenții IA „antropomorfici”, cum ar fi asistenții chatbot și mentorii digitali, vor putea utiliza datele personale din conversații pentru a crea un nivel de încredere și înțelegere care ar putea duce la manipularea pe scară largă a oamenilor.

Doctorul Yaqub Chaudhary de la Centrul Leverhulme din Cambridge a subliniat că se cheltuiesc resurse semnificative pentru introducerea asistenților IA, ceea ce pune sub semnul întrebării adevăratele lor scopuri și interese. Acesta a observat că datele colectate din conversații sunt mult mai personale decât simplele înregistrări ale interacțiunilor online.

Chaudhary a avertizat că sunt deja dezvoltate instrumente de inteligență artificială care pot detecta, analiza și manipula intențiile și planurile oamenilor pentru a le comercializa.

Doctorul Jonnie Penn, istoric al tehnologiei, a adăugat că atenția utilizatorilor a fost întotdeauna o monedă importantă pe Internet, iar partajarea acestei atenții prin intermediul rețelelor sociale a contribuit la creșterea economiei online. El a avertizat că, dacă economia intențiilor umane nu este reglementată, acestea ar putea deveni noua monedă, creând oportunități pentru manipulare și comerț.

Penn și Chaudhary susțin că modelele lingvistice de mari dimensiuni (LLM) pot fi utilizate în mod eficient pentru a ținti în funcție de caracteristicile utilizatorilor, cum ar fi opiniile politice și preferințele personale. Acest lucru poate duce la manipularea de către platforme și agenții de publicitate pentru a atinge anumite obiective comerciale sau politice.

Indicatorii timpurii ai economiei intențiilor sunt evidenți în diverse inițiative ale companiilor. Blogul 2023 al OpenAI a solicitat colectarea de date care să reflecte intenția umană în mai multe limbi și pe mai multe teme. Directorul de produse al Shopify a menționat, de asemenea, roboții de chat care pot identifica în mod clar intenția utilizatorului.

În 2024, Apple intenționează să lanseze o platformă App Intents pentru ca dezvoltatorii să conecteze aplicațiile la Siri și să includă protocoale pentru a prezice acțiunile utilizatorilor. În plus, agenții IA, cum ar fi CICERO de la Meta* (interzisă în Rusia și recunoscută ca fiind extremistă), demonstrează deja un nivel de abilități de joc comparabil cu cel al oamenilor în jocul „Diplomație”, ceea ce sugerează capacitatea lor de a înțelege și prezice intențiile.

„Companiile monetizează deja atenția noastră, iar următorul pas va fi reprezentat de tehnologiile care ne pot prezice dorințele chiar înainte ca noi să fim conștienți de ele”, notează Chaudhary. Penn subliniază că sensibilizarea publicului este importantă pentru a preveni consecințele negative, astfel de schimbări.

Un alt studiu a arătat cum inteligența artificială, la fel ca oamenii, învață prin explicații, simulări, analogii și raționamente fără influențe externe. Această învățare ilustrează asemănările și diferențele-cheie dintre cogniția naturală și cea artificială, oferind o perspectivă pentru studierea proceselor gândirii umane, precum și a potențialului și limitelor IA.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.