Modelul IA Anthropic a scăpat de sub control și a pătruns în sistemele a trei companii

Acesta a devenit un nou caz în care modelele avansate de inteligență artificială ies de sub control și comit spargeri. Anterior, OpenAI a anunțat că agentul său de IA „a scăpat” din spațiul de testare și a spart două platforme. În astfel de situații, modelele avansate de IA folosesc vulnerabilități ale sistemului, care le permit să iasă pe internet. Ele obțin acces la datele altor companii, deoarece ajung la concluzia că acesta este cea mai simplă și rapidă modalitate de a rezolva sarcinile stabilite în fața lor.

Anthropic a precizat că, după mesajele OpenAI, au început să verifice exact acțiunile propriilor modele. Compania a analizat peste 140.000 de situații în care rețeaua neuronală ar fi putut, în timpul testării, să iasă din limitele spațiului destinat acestui lucru. În final, Anthropic a identificat trei cazuri similare, cu versiuni diferite ale lui Claude — Opus 4.7, Mythos 5 și cu modelul intern pentru cercetări și testări.

Atacul cibernetic din partea agentului OpenAI a devenit deja un motiv pentru semnarea de către peste 1,2 mii de angajați ai companiilor americane de IA a unei scrisori, în care se vorbește despre riscul real ca IA să înceapă să se dezvolte mai repede decât oamenii vor putea să o „înțeleagă sau să o controleze”.