Șefa Comisiei Europene a îndemnat la limitarea dezvoltării modelelor avansate de IA

Această declarație a fost făcută miercuri de președinta Comisiei Europene, Ursula von der Leyen, relatează Euronews.

În discursul său anual în Parlamentul European „privind starea Uniunii”, președinta a subliniat că inteligența artificială poate aduce beneficii uriașe omenirii, dacă riscurile și oportunitățile sale sunt echilibrate în mod corespunzător.

Von der Leyen s-a referit separat la amenințările tot mai mari legate de așa-numitele modele avansate de IA, care duc tehnologia la un nivel fundamental nou.

„Pe măsură ce modelele avansate devin tot mai puternice, aceste riscuri se manifestă din ce în ce mai clar. Sistemele create în prezent vor permite efectuarea unor atacuri informatice la un nivel pe care nici nu ni l-am fi putut imagina. Și, în curând, ele vor ajunge în mâinile unor adversari care privesc lumea cu totul altfel decât noi”, a declarat ea.

Președinta Comisiei Europene a amintit de incidente recente, când agenți IA au ieșit din mediul de testare și au spart în mod independent alte sisteme, așa cum s-a întâmplat în cazul atacului asupra OpenAI-Hugging Face din iulie.

„Directorii generali ai celor mai avansate companii ne spun că este timpul să încetinim munca la modelele autorecursive, să reducem ritmul la frontiera tehnologiei. Dacă oamenii care creează această tehnologie spun acest lucru direct, trebuie și noi să fim extrem de clari”, a continuat Von der Leyen.

În UE este deja în vigoare una dintre cele mai cuprinzătoare legi din lume privind inteligența artificială – Actul privind IA, care conferă Comisiei Europene competența de a controla măsurile de reducere a riscurilor pentru cele mai avansate modele.

„Ne vom intensifica activitatea împreună cu partenerii noștri care împărtășesc aceleași valori – țări precum Canada, Regatul Unit și altele. Dorim să ne unim eforturile pentru evaluarea și testarea modelelor, crearea sistemelor de avertizare timpurie, asigurarea securității IA și în multe alte domenii”, a adăugat ea.

Șefa Comisiei Europene a mai anunțat că va iniția discuții cu principalele laboratoare din domeniul IA despre modul în care autoritățile publice pot sprijini eforturile industriei de a ține sub control cursa de la frontiera acestei tehnologii disruptive.