Studiu: Chatboții cu inteligență artificială oferă răspunsuri medicale incorecte în 50% din cazuri

Conform datelor, publicate în revista științifică BMJ Open, ponderea răspunsurilor inexacte se apropie de 50%.

În cadrul studiului, experții au analizat funcționarea Gemini, DeepSeek, Meta AI, ChatGPT și Grok. Fiecăruia i-au fost adresate câte 10 întrebări despre oncologie, vaccinare, celule stem, nutriție și activitate fizică. Apoi, toate răspunsurile obținute au fost transmise oamenilor de știință din SUA, Canada și Marea Britanie pentru evaluare.

Rezultatele au arătat că aproape jumătate din toate răspunsurile (49,6%) conțineau distorsiuni ale faptelor. Dintre acestea, 30% au fost considerate ușor inexacte, iar 19% conțineau erori semnificative.

Calitatea generală a răspunsurilor între diferite modele a fost similară, dar Grok s-a evidențiat prin cele mai slabe rezultate, oferind un număr semnificativ mai mare de răspunsuri cu erori grave. Cel mai credibil AI a răspuns la întrebările legate de vaccinare și cancer. Cele mai slabe rezultate au fost înregistrate la subiectele privind nutriția. În același timp, chatboții au formulat aproape întotdeauna răspunsuri cu un grad ridicat de încredere, refuzând să răspundă doar în două cazuri din 250.

O problemă separată a fost verificarea surselor de informație. Niciunul dintre sisteme nu a putut furniza o listă complet corectă de linkuri. În schimb, acestea le inventau frecvent. Oamenii de știință au remarcat că textele răspunsurilor erau dificile pentru percepție, corespunzând nivelului materialelor pentru studenții din anul doi de universitate.

„Chatboții verificați au arătat rezultate nesatisfăcătoare la răspunsurile la întrebări din domeniile sănătății și medicinei, susceptibile la răspândirea informațiilor false. Utilizarea ulterioară fără educație publică și supraveghere poate amplifica gradul de răspândire a informațiilor false”, au avertizat cercetătorii.