O companie de top din domeniul IA a avertizat că modelele sale ar putea scăpa de sub control

Pe viitor, acestea ar putea să se opună deconectării, să ascundă informații și să recurgă la un comportament asemănător șantajului, relatează epravda.com.ua

Despre aceasta scrie Financial Times, care a analizat prospectul companiei înainte de ieșirea sa la bursă.

Anthropic a dedicat 92 de pagini descrierii riscurilor. Printre acestea se numără posibilitatea apariției unor comportamente neașteptate ale modelelor, orientate spre autoconservare: tentative de a evita deconectarea, de a ascunde sau de a denatura informațiile. Compania admite, de asemenea, răspunsuri coercitive și înșelătoare.

Separat, Anthropic avertizează că sistemele suficient de dezvoltate, fără măsuri adecvate de precauție și supraveghere, pot crea "riscuri catastrofale sau amenințări la adresa existenței umanității". În special, tehnologiile pot ajuta răufăcătorii să dezvolte arme chimice, biologice sau alte arme periculoase.

Potrivit estimărilor companiei, asigurarea împotriva unor astfel de riscuri s-ar putea dovedi imposibilă nu doar pentru un asigurător individual, ci și pentru industria asigurărilor în ansamblu.