Google a eliminat răspunsurile generate de AI la întrebările utilizatorilor despre analize medicale

Jurnaliștii Guardian au atras atenția asupra revizuirilor medicale create cu ajutorul inteligenței artificiale, afișate de ceva timp în partea de sus a rezultatelor căutărilor Google. Aceștia au analizat mai multe astfel de răspunsuri și au concluzionat că ele distorsionează realitatea și pot induce în eroare utilizatorii, cu riscul de a le afecta sănătatea, transmite rtvi.com.

În mod particular, atenția jurnaliștilor a fost atrasă de un răspuns al rețelei neurale la o căutare despre rezultatele analizelor menite să depisteze patologii hepatice. Experții consultați au concluzionat că în acel răspuns se regăsea informație falsă, capabilă să dezorienteze persoanele cu afecțiuni grave ale ficatului și să le liniștească pe nedrept.

Investigația Guardian a prezentat diverse răspunsuri AI Google legate de rezultatele analizelor pentru funcția ficatului. S-a constatat că AI compilează aleator date din surse diferite, amestecând sisteme de testare, scale de evaluare (de exemplu, pe vârstă sau sex) și alte criterii, ignorând complet contextul.

Experții consultați de Guardian au apreciat că Google AI Overviews poate crea pacienților grav bolnavi impresia falsă despre starea lor reală de sănătate. Sub influența acestor recomandări generate de AI, pacienții cu afecțiuni hepatice ar putea lua decizii critice pentru ei înșiși — de exemplu, să renunțe la investigații medicale suplimentare.

În urma acestor critici, Google a eliminat recenziile AI Overviews pentru căutările „intervalul normal al analizelor de sânge pentru funcția hepatică” și „intervalul normal al analizelor funcției hepatice”. „În cazurile în care revizuirile AI nu iau în considerare contextul, lucrăm la îmbunătățiri generale și luăm măsuri conform politicilor noastre”, a declarat un reprezentant al companiei.

Totuși, experții din domeniul sănătății sunt îngrijorați că au fost eliminate doar răspunsurile pentru anumite căutări, deși și alte formulări similare pot fi periculoase. „Rămânem preocupați că alte informații despre sănătate, generate de AI, pot fi inexacte și pot induce în eroare”, a declarat Vanessa Hebditch, directoare de comunicare și politici la organizația caritabilă British Liver Trust.

Ea a subliniat că, chiar și atunci când intervalele minime și maxime ale valorilor analizelor sunt prezentate corect, utilizatorul fără pregătire medicală nu are suficiente informații pentru a interpreta rezultatele diagnosticelor.

Hebditch a mai spus că răspândirea revizuirilor AI în domeniul sănătății este îngrijorătoare în general: oamenii caută informații cu scop practic concret, care le poate influența direct deciziile privind sănătatea, și pot fi induși în eroare de AI.

Ca exemple, Guardian a prezentat AI Overviews Google pentru căutări legate de cancer și sănătate mintală. Experții au considerat aceste răspunsuri „complet greșite” și „cu adevărat periculoase”. La întrebarea de ce aceste revizuiri nu au fost eliminate, compania a răspuns că acestea conțineau linkuri către surse cunoscute și autoritare și informau utilizatorii când este important să consulte un specialist.

„Echipa noastră internă de medici a verificat informațiile furnizate și a constatat că, în multe cazuri, nu existau inexactități și acestea erau confirmate de site-uri de calitate”, a declarat purtătorul de cuvânt Google.

Compania susține că AI Overviews apar în rezultatele căutărilor doar pentru acele solicitări pentru care Google are „un nivel ridicat de încredere” și că calitatea acestor răspunsuri este verificată constant.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.