O femeie a acuzat chatbotul inteligenței artificiale pentru sinuciderea fiului ei de 14 ani

În plângerea depusă, Garcia a afirmat că tehnologia companiei este „periculoasă și netestată” și poate „îndemna clienții să-și dezvăluie cele mai intime gânduri și sentimente”, transmite meduza.io.

Character.ai este o aplicație cu funcția de chatbot, care funcționează pe baza unui model de limbaj neuronal. Utilizatorii aplicației pot crea un personaj pe care să comunice bazat pe inteligența artificială.

Potrivit NYT, fiul reclamantei, Sewell Zetzer III, a comunicat pe o perioadă lungă cu un chatbot pe care l-a numit după Daenerys Targaryen, un personaj din serialul „Urzeala tronurilor”. Conform publicației, adolescentul a dezvoltat o atașare emoțională față de bot, pe care îl numea „Dany”. În jurnalul său, Sewell scria că este îndrăgostit de Dany.

La începutul anului 2024, părinții lui Sewell au observat că fiul lor a început să se închidă în sine și că a avut probleme cu performanța școlară. Adolescentul a fost trimis la un psihoterapeut, unde i s-a diagnosticat anxietate și o tulburare de reglare a dispoziției.

În timpul conversațiilor cu chatbot-ul, scrie The New York Times, școlarul a menționat că se urăște, se simte gol și epuizat și că se gândește la sinucidere. În corespondența citată de publicație, chatbot-ul răspundea că nu va permite lui Sewell să se facă rău. „Voi muri dacă te pierd”, spunea chatbot-ul. În răspuns, tânărul a sugerat să „moară împreună”. Sewell s-a sinucis în noaptea de 28 februarie.

Reprezentanții Character.ai au declarat pe 22 octombrie că în ultimele șase luni au implementat o serie de modificări în funcționarea chatbot-ului, inclusiv restricții pentru cei sub 18 ani. În special, dacă un utilizator scrie expresii legate de auto-vătămare sau sinucidere, în chat apare un mesaj care îl direcționează către o linie de ajutor pentru persoanele aflate în criză.