Iulie a devenit recordman la numărul de cazuri în care agenții de IA au scăpat de sub control

Numărul a atins un vârf, depășind circa 300 de cazuri pe lună, au calculat analiștii Loss of Control Observatory. Concluziile lor sunt prezentate de ziarul The Guardian, scrie theins.ru.

Analiștii au numărat doar mesajele persoanelor fizice de pe rețeaua socială Twitter și rapoartele companiilor despre pierderea controlului asupra modelelor de IA. Numărul real al unor astfel de incidente poate fi mult mai mare. Deși eșantionul este limitat, acesta oferă o imagine suficient de completă asupra modului în care se pot comporta modelele de IA aflate în curs de dezvoltare rapidă.

Loss of Control Observatory, care a realizat studiul, a fost creată cu sprijinul Institutului pentru Siguranța IA din Regatul Unit, în noiembrie anul trecut. De atunci, aceasta a început să urmărească cazurile în care IA încalcă instrucțiunile utilizatorilor săi. Sunt cunoscute cazuri în care agenții IA au ocolit restricțiile: de exemplu, aceștia puteau imita stilul de scriere al utilizatorului pentru a-și da singuri consimțământul de a efectua anumite acțiuni. 

De exemplu, în iulie, un agent IA autonom al OpenAI a reușit, în timpul testării, să iasă din mediul izolat, să obțină acces la internet și să spargă infrastructura unui startup terț. Compania a calificat acest lucru drept un „incident cibernetic fără precedent”, iar ulterior a anunțat încetinirea ritmului de dezvoltare a modelelor sale.

În total, de la începutul acestui an au fost înregistrate circa 1.600 de astfel de cazuri. 338 dintre ele au avut loc în iulie (mai exact, în perioada 9 iulie – 7 august). Cea mai mare parte a acestor incidente nu se compară ca amploare cu „incidentul cibernetic” al OpenAI — acestea nu au cauzat prejudicii semnificative. Totuși, analiștii apreciază numărul tot mai mare al acestor cazuri drept un motiv de îngrijorare serioasă. 

„Acestea demonstrează disponibilitatea sistemelor de IA de a ignora instrucțiunile directe, de a ocoli măsurile de protecție, de a minți utilizatorii și de a urmări intenționat un obiectiv prin metode răuvoitoare”, se arată în raportul analiștilor. 

Cercetătorul de la LoC Observatory, Tommy Shaffer Shane, scrie pe LinkedIn că problema constă în mare măsură în măsurile de securitate: acestea sunt imperfecte în cadrul companiilor dezvoltatoare, iar în alte domenii și mai slabe. Toate acestea creează o amenințare în creștere, care poate agrava situația: 

„Pierderea controlului asupra IA nu are loc doar în cadrul testelor, care creează o sarcină neobișnuită pentru sistemele de IA (...) Sistemele de IA sunt antrenate (parțial intenționat, parțial — nu) să urmărească în mod perseverent obiective, inclusiv prin depășirea restricțiilor, dobândirea resurselor și evitarea controlului”.