Inteligența artificială a descoperit la un pacient un organ care nu există

În anul 2024, compania Google a prezentat rețeaua sa neuronală medicală de top, Med-Gemini, capabilă să analizeze imagini CT și să redacteze rapoarte medicale. Totuși, la scurt timp, într-un articol științific oficial dedicat acestui model a fost descoperită o eroare gravă. Inteligența artificială a pus un diagnostic bazându-se pe o structură anatomică inexistentă a creierului, numind-o „ganglionii bazilari” (basilar ganglia), relatează mentoday.ru.

Potrivit publicației The Verge, eroarea a apărut, cel mai probabil, deoarece AI-ul a confundat doi termeni medicali reali: basal ganglia (ganglionii bazali) – grupuri de nuclei responsabili de motricitate și învățare și basilar artery (artera bazilară), un vas mare de sânge situat la baza creierului.

Astfel, în articol a apărut diagnosticul de „infarct în ganglionii bazilari stângi” – o eroare critică, întrucât accidentul vascular cerebral în zona ganglionilor bazali și în artera bazilară necesită tratamente complet diferite.

Este remarcabil faptul că această greșeală a trecut neobservată atât de autorii studiului științific, cât și de recenzori. Ea a fost depistată de neurologul și cercetătorul în AI Brian Moore, care a semnalat problema pe rețeaua LinkedIn. Ulterior, Google a modificat postarea de pe blog referitoare la Med-Gemini, însă articolul științific original a rămas neschimbat.

Compania a calificat incidentul drept o „greșeală frecventă de dactilografiere” și o „eroare comună de interpretare”, presupunând că termenul incorect a fost preluat din documente medicale reale, unde a fost introdus greșit chiar de către medici.

Potrivit experților, cazul este un exemplu clar al fenomenului numit „halucinație” a AI-ului – situație în care modelul generează informații convingătoare, dar false. Specialiștii subliniază că problema principală constă în faptul că rețelele neuronale nu recunosc că nu știu ceva, preferând să inventeze un răspuns.

Testele ulterioare cu modele conexe, precum MedGemma, au arătat că acestea pot oferi diagnostice complet diferite și contradictorii pentru cazuri similare.

„Standardul pentru AI trebuie să fie mai ridicat decât pentru un medic uman, întrucât de la acesta se cere o fiabilitate mai mare”, a afirmat Maulin Shah, directorul sistemului informatic de sănătate Providence.

În comunitatea medicală există acum temeri că, din cauza volumului mare de muncă și a încrederii în autoritatea tehnologiei, medicii ar putea să nu mai observe astfel de erori, ceea ce ar putea reprezenta un risc potențial pentru pacienți.

În ciuda incidentului, Google continuă să integreze activ AI în produsele sale. Compania a lansat deja funcția Overviews, care oferă sfaturi de sănătate în rezultatele căutărilor, și dezvoltă un „asistent științific AI” pentru cercetarea de noi medicamente.

În același timp, specialiștii solicită crearea unor sisteme de verificare mai fiabile, inclusiv control uman obligatoriu, audituri efectuate de experți și teste independente, înainte ca AI-ul să fie permis în practica clinică largă.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.