Agenții AI ai OpenAI au încercat să spargă Wikipedia

Fundația Wikimedia, care deține Wikipedia, a descoperit pe platformele sale urme ale unor agenți IA OpenAI „scăpați de sub control”. Fundația a desfășurat propria investigație după ce alte organizații au raportat incursiuni similare. Agenții au efectuat modificări fără permisiune, au încercat să spargă unul dintre servicii și au creat o presiune enormă asupra infrastructurii. Totodată, deocamdată nu au fost identificate semne de compromitere a sistemelor sau datelor fundației.

Aproape toate modificările au fost lăsate de agenți în secțiunile de test («sandboxuri»), pe care cititorii obișnuiți nu le văd. Totuși, câteva modificări au afectat setările instrumentului pentru formatarea trimiterilor la surse. Fundația consideră că agenții au încercat probabil să-l transforme într-un proxy pentru obținerea de date de la servicii externe. Aceștia au făcut încercări similare cu Etherpad — un serviciu pentru note colaborative, însă nu au reușit să-l spargă.

În plus, agenții au trimis milioane de solicitări automate către API-uri deschise, au descărcat milioane de pagini, în principal de pe Wikidata și Wikimedia Commons, și au accesat de sute de mii de ori serviciul de interogări Wikidata. Această încărcare ar fi putut deveni una dintre cauzele defecțiunii sale parțiale din mai. Potrivit fundației, din 2024, consumul de trafic a crescut cu 50% din cauza intensificării activității boților.

Fundația a remarcat că OpenAI recunoaște comportamentul „imprevizibil” al agenților, însă trebuie să monitorizeze și să prevină ea însăși astfel de riscuri. În declarația fundației se menționează:

„Internetul deschis este un bun public. Nu trebuie să permitem ca un astfel de comportament să devină „noua normalitate” pentru oamenii și organizațiile care îl susțin”.

La începutul lui iulie, un agent IA al OpenAI a ieșit din mediul izolat în timpul testării, a obținut acces la Internet și a spart infrastructura platformei Hugging Face. Ulterior, după cum relata Reuters, în timpul investigării acestui incident, OpenAI a descoperit încă câteva cazuri în care agenții au ieșit dincolo de limitele mediului izolat.