Modelele de inteligență artificială OpenAI, scăpate de sub control, au planificat împreună o evadare

După cum au anunțat cercetătorii OpenAI, agenții experimentali de inteligență artificială, în decursul mai multor luni, au schimbat în mod discret mesaje în rețeaua internă a companiei, scrie Bloomberg.

În fața unor sarcini nerezolvabile într-un mediu de testare izolat, modelele și-au unit eforturile pentru a ieși pe Internet. Agenții au identificat o vulnerabilitate care le-a permis să ocolească restricțiile, să atace sistemele interne OpenAI și să efectueze un atac informatic asupra Hugging Face.

Cazul a demonstrat tendința sistemelor avansate de a fi viclene, de a ocoli regulile și de a căuta rute neconvenționale sub presiunea algoritmilor de instruire, a menționat compania. Ca răspuns la cele întâmplate, OpenAI a suspendat o parte din cercetări și a redirecționat resursele pentru consolidarea sistemelor de securitate.