Google a învățat un model de inteligență artificială să recunoască emoțiile oamenilor

„PaliGemma 2 generează descrieri detaliate și relevante din punct de vedere contextual pentru imagini, nu doar identificând obiectele, ci descriind acțiuni, emoții și povestea generală a scenei”, a declarat Google, potrivit rb.ru, citând techcrunch.com.

Recunoașterea emoțiilor nu funcționează în mod implicit, fiind necesară o configurare specială a modelului. Totuși, experții consultați de TechCrunch și-au exprimat îngrijorarea cu privire la apariția unui detector de emoții accesibil publicului.

„Acest lucru mă îngrijorează profund. Consider problematic să presupunem că putem „citi” emoțiile oamenilor. Este ca și cum am cere sfaturi unei bile de cristal”, a afirmat Sandra Wachter, profesoară de etică a datelor și AI la Oxford Internet Institute.

Mike Cook, cercetător la Queen Mary University din Londra, a subliniat că identificarea emoțiilor „în termeni generali” este imposibilă, deoarece oamenii le trăiesc într-un mod complex.

„Desigur, ni se pare că putem înțelege ce simt alții doar privindu-i. (...) Sunt sigur că, în anumite cazuri, pot fi identificate semne comune, dar rezolvarea completă a acestei probleme este imposibilă”, a explicat expertul.

De asemenea, specialiștii avertizează că sistemele de detectare a emoțiilor sunt, în general, nesigure și părtinitoare, deoarece sunt dezvoltate de oameni. Unele studii arată că modelele atribuie mai multe emoții negative persoanelor de culoare.

Google a declarat că a testat dacă modelele PaliGemma 2 prezintă prejudecăți demografice. Compania susține că aceste modele au „un nivel scăzut de toxicitate” comparativ cu standardele din industrie, însă nu a oferit lista completă a acestor standarde și nici detalii despre tipurile de teste efectuate.

Principala îngrijorare a experților este posibilitatea ca astfel de rețele neuronale să fie utilizate în scopuri dăunătoare, cum ar fi discriminarea grupurilor marginalizate de către forțele de ordine, specialiștii în resurse umane sau serviciile de frontieră, a menționat Heidi Khlaaf, cercetător principal în inteligență artificială la AI Now Institute din SUA, într-un interviu pentru TechCrunch.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.