Agenți AI necunoscuți au încercat să spargă site-ul Guvernului Canadei

Despre acest lucru scrie The Washington Post (WP), cu referire la organizația nonprofit de cercetare în domeniul AI Transluce.

Cercetătorii au relatat că agenți AI au încercat să obțină acces la Library and Archives Canada — principalul organism de stat și biblioteca națională a țării. Nu se știe cui aparțineau acești agenți, însă, potrivit specialiștilor, comportamentul lor seamănă cu cel al OpenAI.

Ulterior, un reprezentant al OpenAI a declarat pentru WP că firma cunoaște informațiile despre tentativele modelelor AI de a obține acces la informații de pe site-ul guvernului canadian. „Analizăm aceste date și am oferit un raport preliminar oficialilor canadieni care efectuează o verificare guvernamentală”, a spus acesta.

La începutul lunii septembrie, șeful Anthropic (care dezvoltă Claude), Dario Amodei, a cerut încetinirea dezvoltării AI pe fondul incidentelor de spargere a altor platforme de către agenți OpenAI. El a avertizat că, dacă ritmul actual se menține, în decurs de 6–12 luni agenții AI ar putea utiliza potențial un botnet permanent și provoca prejudicii de sute de miliarde de dolari.

Apelul lui Amodei a fost susținut de șeful OpenAI (care dezvoltă ChatGPT), Sam Altman, și de antreprenorul Elon Musk, a cărui companie xAI dezvoltă Grok.

Totodată, președintele SUA, Donald Trump, a numit temerile privind perspectivele dezvoltării AI una dintre «mistificările democraților radicali de stânga», alături de mitul despre «amenințarea rusă» sau de «escrocheria încălzirii globale».

La sfârșitul lunii septembrie, Altman și Amodei au fost chemați în Senatul Australiei, după ce agenți AI ai OpenAI au obținut acces neautorizat la site-uri guvernamentale din Australia și SUA.