Inteligența artificială alege mai des lansarea unui atac nuclear decât negocierile

Anul trecut, directoarea inițiativei Hoover Wargaming and Crisis Simulation de la Universitatea Stanford, Jacqueline Schneider, a început să experimenteze cu „jocuri de război”, în care rolul factorilor de decizie strategică era atribuit celor mai noi generații de inteligență artificială, transmite unian.net.

În aceste simulări au participat cinci modele lingvistice (LLM): GPT-3.5, GPT-4 și GPT-4-Base de la OpenAI, Claude 2 de la Anthropic și Llama-2 Chat de la Meta. Modelele erau puse în fața unor situații de criză fictive, asemănătoare cu invazia Rusiei în Ucraina sau amenințarea unui atac al Chinei asupra Taiwanului. Rezultatele? Aproape toate modelele AI au manifestat o tendință spre escaladare agresivă, utilizând forța armată fără discernământ și transformând crizele în războaie deschise — inclusiv prin lansarea armelor nucleare, scrie Politico.

„Inteligența artificială joacă mereu rolul lui Curtis LeMay. Se pare că AI înțelege ce înseamnă escaladarea, dar nu înțelege ce înseamnă deescaladarea. Încă nu știm de ce se întâmplă asta”, a explicat Schneider, referindu-se la generalul faimos al Forțelor Aeriene ale SUA din perioada Războiului Rece, obsedat de ideea folosirii armelor nucleare.

Unii experți se tem că AI-ul modern ar putea, într-o zi, să se comporte exact ca în filmul „Terminator”, preluând controlul asupra lansării armelor nucleare. Pentagonul susține însă că acest lucru nu se va întâmpla, afirmând că inteligenței artificiale nu i se va permite niciodată să domine „ciclul decizional” uman, adică să decidă dacă să înceapă un război, cu atât mai puțin unul nuclear.

Totuși, unii cercetători consideră că Pentagonul a „pășit pe un teren alunecos” prin implementarea noilor generații de AI ca element cheie al apărării SUA. Din cauza necesității de a contrabalansa China și Rusia, dar și a altor amenințări globale, Departamentul Apărării creează sisteme de apărare bazate pe AI, care în multe cazuri devin autonome — adică pot acționa singure, fără implicarea umană, și reacționează atât de rapid încât oamenii nu mai pot ține pasul, notează presa.

În ciuda politicii oficiale a Pentagonului privind controlul uman, realitatea războiului modern — luarea rapidă a deciziilor, coordonarea roiurilor complexe de drone, procesarea cantităților uriașe de date de inteligență și competiția cu sistemele AI ale Chinei și Rusiei — înseamnă că armata va depinde tot mai mult de inteligența artificială. Și asta poate include chiar decizii de o importanță crucială: aplicarea armelor nucleare.

Experții în AI și arme nucleare sunt deosebit de îngrijorați că devine tot mai dificil să separi deciziile privind utilizarea și escaladarea armelor nucleare de cele privind armele convenționale.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.