OpenAI a încetinit antrenarea noilor modele de IA din cauza riscurilor de atacuri cibernetice

Motivul l-au constituit riscurile identificate, inclusiv capabilitățile cibernetice critice ale modelului Astra.

Despre acest lucru se menționează într-o declarație, publicată pe site-ul companiei.

Pe măsură ce capacitățile modelelor de IA cresc, sporesc și riscurile asociate dezvoltării și testării acestora, astfel că standardele de monitorizare și securitate trebuie să le devanseze, au declarat reprezentanții OpenAI. „Am vrut să acordăm timpul necesar pentru atingerea acestor standarde, de aceea am încetinit temporar ritmul de extindere”, au explicat reprezentanții companiei.

OpenAI a precizat că a folosit pauza de două săptămâni pentru a consolida protecția infrastructurii de cercetare, pentru testarea suplimentară a sistemelor de securitate și extinderea monitorizării.

Compania a legat decizia de două evenimente din ultimele săptămâni: incidentul privind spargerea securității Hugging Face și datele preliminare potrivit cărora unul dintre viitoarele modele OpenAI, denumit Astra, ar putea atinge pragul „capacităților critice în domeniul securității cibernetice”, stabilit de sistemul intern de evaluare a riscurilor.

Pentru modelele Astra și dezvoltările legate de securitatea cibernetică, OpenAI a introdus cele mai stricte cerințe de protecție a mediului de cercetare. Acestea includ izolarea sarcinilor de lucru, restricții suplimentare privind accesul la rețea și testarea continuă a sistemelor de securitate.

În plus, compania a extins monitorizarea acțiunilor modelelor. La identificarea unui comportament potențial periculos, sistemele trebuie să genereze o alertă în decurs de 30 de minute. Dacă specialiștii nu vor reuși să stabilească în acest interval că declanșarea alertei a fost eronată, activitatea respectivă trebuie suspendată.

În declarație se mai menționează că OpenAI își extinde cercetările pentru a asigura alinierea modelelor la obiectivele stabilite și la controlul uman.