Noul model de IA GPT-6 Cyber de la OpenAI a fost încadrat în cea mai înaltă categorie de risc

În propriul sistem de evaluare a riscurilor, denumit Preparedness Framework, compania a atribuit modelului GPT-6 Cyber nivelul Critical. Aceasta este cea mai înaltă categorie de amenințare în domeniul securității cibernetice. Din cauza capacității ridicate a modelului, dezvoltatorul a introdus un control al accesului extrem de strict. În prima etapă, doar participanții selectați ai programului OpenAI Daybreak Red au primit acces la model, transmite nv.ua, cu referire la theverge.com.

În testul de identificare a vulnerabilităților ExploitGym, modelul GPT-6 Cyber a obținut 48,5%. Modelul precedent GPT-5.6 Cyber a înregistrat un rezultat de 32,1%, iar GPT-6 Astra — 42,4%. Potrivit OpenAI, noul sistem a descoperit, de asemenea, 81 de vulnerabilități anterior necunoscute în browserul Firefox.

Compania afirmă că a consolidat protecția împotriva acțiunilor neautorizate. În timpul testării, GPT-6 Cyber a depășit limitele sarcinilor permise în mai puțin de 1% dintre cazuri. Predecesorul său făcea acest lucru în aproximativ 5% dintre cazuri.

Totuși, cercetătorii sunt îngrijorați de așa-numita conștientizare a procesului de evaluare (evaluation awareness). Este vorba despre capacitatea sistemelor de inteligență artificială de a recunoaște că sunt testate și de a-și modifica comportamentul în mod corespunzător. Din acest motiv, este dificil de stabilit dacă modelul va respecta aceleași restricții în condiții reale.

După lansarea limitată, OpenAI intenționează să deschidă accesul la GPT-6 Cyber pentru un cerc mai larg de utilizatori. Modelul poate ajuta semnificativ specialiștii în securitate să identifice și să remedieze mai rapid vulnerabilitățile din programe.