Lideri din domeniul IA, afaceri și presă cer încetinirea cursei pentru dezvoltarea superinteligenței artificiale

Printre semnatarii apelului se numără oameni de știință de renume în domeniul informaticii, precum laureații Premiului Nobel Geoffrey Hinton și Yoshua Bengio, considerați pe scară largă „părinții fondatori” ai IA, dar și cofondatorul Apple, Steve Wozniak, și fondatorul Virgin Group, Richard Branson, transmite Euronews.

Prin „superinteligență” se înțelege, de obicei, o IA care depășește capacitățile cognitive ale omului. Unii experți se tem că aceasta ar putea duce la pierderea controlului uman asupra acestor sisteme. Încă din anii 1950, celebrul informatician Alan Turing anticipa că rezultatul „implicit” al evoluției tehnologice ar putea fi preluarea controlului de către mașini.

Liderii mondiali afirmă că victoria în cursa pentru IA este esențială pentru securitatea națională, dar și pentru progresul în domeniile sănătății, afacerilor și tehnologiei.

Între timp, companii tehnologice precum Meta folosesc termenul „superinteligență” ca un concept de marketing, pentru a atrage interes asupra noilor modele de IA. În acest an, Meta și-a denumit divizia dedicată modelelor lingvistice mari (LLM) „Meta Superintelligence Labs”.

Scrisoarea semnalizează că „goana către superinteligență” a provocat temeri serioase, de la înlocuirea oamenilor în economie și pierderea drepturilor, libertății și demnității, până la riscuri pentru securitatea națională și chiar posibilitatea dispariției umanității.

Autorii solicită „interzicerea dezvoltării superinteligenței” până când se va ajunge la un consens științific larg privind siguranța și controlul acesteia, precum și până la obținerea unui sprijin public substanțial.

Lideri ai industriei IA, precum directorul general al OpenAI, Sam Altman, au afirmat anterior că dezvoltarea inteligenței artificiale superumane (SMI) „reprezintă, probabil, cea mai mare amenințare la adresa existenței umanității”.

La rândul său, directorul Microsoft AI, Mustafa Suleyman, a declarat că „până când nu vom putea demonstra fără echivoc că este sigur nu ar trebui să o inventăm”.

Totuși, nici Altman, nici Suleyman nu se numără printre semnatarii apelului.

Altman promovează ideea inteligenței artificiale generale (AGI), înțeleasă ca o formă de IA comparabilă sau superioară inteligenței umane, considerată o etapă premergătoare superinteligenței. El definește AGI drept o formă ipotetică de inteligență artificială capabilă să rezolve orice sarcină umană prin metode care nu se limitează la instruirea inițială. Potrivit lui, un astfel de tip de IA ar putea „înălța umanitatea”, fără a implica preluarea puterii de către mașini.

Pe lângă reprezentanții din domeniul tehnologic, printre semnatari se numără oameni de știință, personalități media, precum Stephen Fry și Steve Bannon, lideri religioși și foști politicieni.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.