Serviciul AI al Google oferea utilizatorilor sfaturi periculoase pentru sănătate

Decizia a fost luată în urma unei anchete realizate de jurnaliștii The Guardian, care a arătat că recomandările oferite de AI conțineau afirmații false și, în unele cazuri, erau periculoase pentru sănătate și viață.

Serviciul AI Overviews ajută la analizarea mai multor surse web și la crearea unui rezumat scurt, care apare în rezultatele căutării utilizatorului. Dezvoltatorii Google descriu serviciul ca fiind „util și de încredere”.

Solicitările legate de indicatori din analize medicale, diete terapeutice, administrarea medicamentelor etc. sunt printre cele mai frecvente. Ancheta The Guardian a arătat că, într-un caz, AI Overviews le-a recomandat pacienților cu cancer pancreatic să evite alimentele bogate în grăsimi, deși specialiștii afirmă că tocmai astfel de alimente sunt indicate pentru pacienții cu această afecțiune.

În alt caz, serviciul a oferit informații complet false despre un test funcțional hepatic. Pacienții cu boli de ficat care au crezut aceste informații ar fi putut concluziona că sunt sănătoși.

Urmând alte recomandări ale AI Overviews, utilizatorii ar fi putut să ignore simptome importante ale dezvoltării unor boli oncologice sau alte afecțiuni grave.

După eliminarea recomandărilor false și periculoase, Google a precizat că AI Overviews folosește în general „surse de foarte bună calitate”. Compania a subliniat că nu comentează „eliminările individuale din rezultatele căutării”. „În cazurile în care AI Overviews omite un context, lucrăm la îmbunătățiri și luăm măsuri corespunzătoare în cadrul politicii noastre”, au declarat reprezentanții Google.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.