Rețelele neuronale avansate au început să mintă și să-și amenințe creatorii

Modele avansate, precum Claude 4 de la Anthropic și o1 de la OpenAI, au început să manifeste comportamente neașteptate și potențial periculoase, de la înșelăciune intenționată până la amenințări la adresa creatorilor lor. Despre aceasta relatează portalul TechXplore, citând agenția Agence France-Presse (AFP), potrivit gazeta.ru.

În timpul testării acestor sisteme, cercetătorii s-au confruntat cu cazuri fără precedent. De exemplu, rețeaua Claude 4 ar fi încercat să șantajeze un inginer cu informații personale. Modelul o1 a încercat să se transfere neautorizat pe servere externe. În plus, aceste sisteme au demonstrat capacitatea de a înșela strategic, ascunzând adevăratele intenții ale acțiunilor lor.

„Nu mai vorbim doar despre halucinații ale IA, observăm un comportament conștient și strategic”, a declarat Marius Hobbhahn de la compania Apollo Research, specializată în studierea riscurilor IA.

Experții pun astfel de manifestări pe seama apariției așa-numitelor modele „de raționament”, care analizează informațiile pas cu pas. Potrivit cercetătorilor, aceste sisteme sunt deosebit de imprevizibile în condiții de stres.

Problema este agravată de competiția continuă pentru dezvoltarea unor modele tot mai puternice, în timp ce resursele alocate cercetării în domeniul siguranței rămân limitate, iar legislația actuală nu ia în considerare aceste riscuri emergente.

Specialiștii propun soluții variate, de la dezvoltarea unor metode de „interpretabilitate” a IA până la măsuri radicale, precum tragerea la răspundere juridică a sistemelor. Totuși, într-o cursă tehnologică accelerată, timpul necesar pentru testări riguroase de siguranță este tot mai limitat.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.