Rețeaua neuronală Google a detectat în răspunsuri sfaturi medicale care pun viața în pericol

The Guardian relatează că răspunsurile rețelei neuronale AI Overviews de la Google la informațiile medicale contrazic sfaturile medicale reale și sunt periculoase.

AI Overviews generează răspunsuri text detaliate în motoarele de căutare prin sintetizarea datelor din mai multe surse web. Aceasta înseamnă că atunci când un utilizator caută pe Google, aceste rezumate apar în partea de sus a paginii, eliminând necesitatea ca utilizatorii să caute informații pe site-uri web.

Potrivit experților medicali care au participat la investigația The Guardian, răspunsurile AI conțin informații medicale inexacte și pun oamenii în pericol. Mai exact, Google a sfătuit în mod eronat persoanele cu cancer pancreatic să evite alimentele bogate în grăsimi - exact opusul a ceea ce recomandă medicii.

Există un alt exemplu. O rețea neuronală a furnizat informații false despre testele cheie ale funcției hepatice, determinând persoanele cu boli hepatice grave să creadă în mod eronat că sunt sănătoase. Căutările Google legate de diagnosticul de cancer la femei au returnat, de asemenea, informații false, ceea ce ar putea determina pacienții să treacă cu vederea simptomele reale sau să decidă să nu solicite asistență medicală.

Un reprezentant Google a explicat rezultatele spunând că inteligența artificială cita surse autorizate, cu acces liber, iar rezumatul propriu-zis era mult mai lung - doar o parte din răspunsuri erau afișate în capturile de ecran. Experții medicali au subliniat că informațiile scoase din context pot dăuna sănătății utilizatorilor și, în unele cazuri, pot crește riscul de deces. În plus, rețeaua neuronală generalizează conținutul din diferite surse, omițând nuanțe.

„De asemenea, ne-a îngrijorat faptul că rezumatul inteligenței artificiale se schimba atunci când se efectua aceeași căutare, de fiecare dată returnând răspunsuri diferite preluate din surse diferite. Aceasta înseamnă că oamenii primesc răspunsuri diferite în funcție de momentul în care caută, iar acest lucru nu este corect”, a declarat Athena Lamnisos, director executiv al organizației caritabile pentru combaterea cancerului Eve Appeal. Google a negat eroarea și a declarat că firma lucrează constant pentru a îmbunătăți calitatea inteligenței artificiale.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.