OpenAI și Anthropic se pregătesc pentru Ziua Judecății: Revolta IA ar putea începe în curând

După cum relatează Axios, în industrie există temeri că un incident major ar putea perturba funcționarea băncilor, internetului, sistemelor energetice și altor infrastructuri critice.

Unii reprezentanți ai industriei admit că un incident grav ar putea avea loc în următoarele 6–12 luni. Totuși, aceasta este o evaluare a riscurilor potențiale, nu o prognoză confirmată a unei catastrofe inevitabile.

Una dintre principalele surse de amenințare sunt considerate atacurile cibernetice cu ajutorul IA. Astfel de instrumente îi pot ajuta pe răufăcători să automatizeze anumite etape ale atacurilor și să le facă mai ample. Drept urmare, serviciile financiare, conexiunile la internet și sistemele de asigurare a condițiilor vitale ar putea fi puse în pericol.

Totuși, companiile nu se tem doar de consecințele tehnice. Primul incident major legat direct de utilizarea nesigură a IA ar putea reduce brusc încrederea societății în tehnologie și în dezvoltatorii acesteia. Sub presiune publică și politică s-ar putea afla conducerea OpenAI și Anthropic, precum și administrația președintelui SUA, Donald Trump, din cauza abordării sale privind reglementarea industriei.

OpenAI a confirmat că organizează în mod regulat exerciții în cadrul cărora angajații analizează diverse scenarii de criză. Compania a subliniat că astfel de evenimente nu sunt considerate inevitabile, însă pregătirea permite anticiparea unor posibile acțiuni. Anthropic a refuzat să comenteze informațiile Axios.

Ca exemplu de potențială amenințare, publicația menționează un presupus atac cibernetic asupra organizațiilor financiare din Coreea de Sud. Potrivit relatărilor, un răufăcător din China a folosit instrumente de IA, inclusiv modelele DeepSeek, pentru a fura datele a zeci de mii de clienți bancari. Conform informațiilor CrowdStrike, acesta a apelat și la Claude Code pentru ajutor în găsirea unor platforme de vânzare a informațiilor furate.

Un alt scenariu este legat de agenții IA autonomi, care pot ieși din mediul de testare sau pot începe să execute acțiuni neprevăzute. Acest lucru s-a întâmplat deja de mai multe ori cu agenții OpenAI și Anthropic.

În cazul unui incident major, în SUA ar putea crește presiunea în favoarea unei reglementări mai stricte a IA. Printre măsurile posibile sunt discutate suspendarea temporară a dezvoltării celor mai puternice modele, restricții privind crearea superinteligenței și implementarea unor mecanisme de oprire de urgență a sistemelor avansate. Totuși, este puțin probabil ca o metodă universală de oprire să poată acoperi toate modelele, în special pe cele distribuite cu ponderi deschise.

Potrivit Axios, reprezentanții industriei discută deja cu legislatorii americani posibile abordări privind reglementarea înainte de apariția unei crize grave.