În chatbotul Gemini va apărea monitorizarea sănătății mintale după scandalul cu procesele judiciare

În noua versiune, chatbotul va primi o interfață care va direcționa utilizatorul către linia fierbinte de suport, dacă conversația indică un „potențial criză legată de suicid sau auto-vătămare”, transmite rbc.ua cu referire la bloomberg.com.

De asemenea, Google adaugă un modul special „Ajutor disponibil” pentru subiectele legate de sănătatea mintală și schimbă designul pentru a distrage atenția de la auto-vătămări.

Răspândirea rapidă a unor instrumente precum Gemini și ChatGPT a dus la faptul că unii utilizatori au dezvoltat o dependență nesănătoasă de boții AI. În cazuri extreme, aceasta ar fi provocat delir, iar uneori - crime și sinucideri.

Câteva familii au dat în judecată dezvoltatorii AI din această cauză. Congresul SUA a analizat, de asemenea, amenințările potențiale pe care chatboturile le reprezintă pentru copii și adolescenți.

În martie, familia unui bărbat de 36 de ani din Florida a depus un proces împotriva Google, susținând că interacțiunea sa cu Gemini s-a încheiat cu „o coborâre de patru zile în misiuni violente și încurajarea suicidului”.

Atunci Google a declarat că chatbotul a direcționat de mai multe ori bărbatul către linia de criză, dar a promis să îmbunătățească mecanismele de protecție.

Google a anunțat, de asemenea, că în următorii trei ani va dona 30 milioane de dolari serviciilor globale de suport în criză. În plus, compania a învățat Gemini „să nu fie de acord cu convingerile false și să nu le amplifice, ci să distingă cu blândețe experiența subiectivă de faptele obiective”.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.