Părinții unui adolescent care s-a sinucis în SUA îl dau în judecată pe dezvoltatorul ChatGPT

Părinții unui adolescent de 16 ani care s-a sinucis în SUA după ce a interacționat cu ChatGPT au dat în judecată compania dezvoltatoare a chatbotului, OpenAI, și pe directorul său general, Sam Altman. Potrivit părinților, compania ar fi pus în mod conștient profitul mai presus de siguranță atunci când a lansat, anul trecut, noul model de rețea neuronală GPT-4o, scrie forbes.ru cu referire la reuters.com și nbcnews.com.

Conform plângerii depuse la un tribunal din San Francisco (statul California), Adam Rain, în vârstă de 16 ani, a murit pe 11 aprilie, după ce timp de mai multe luni a discutat cu ChatGPT despre sinucidere. Potrivit părinților lui Adam, Matt și Maria Rain, după moartea fiului lor, au încercat să afle cauzele tragediei verificând telefonul acestuia.

„Ne-am gândit că vom găsi discuții pe Snapchat, sau istoricul de căutare pe Internet, sau poate ceva legat de un cult ciudat, nu știu”, a declarat tatăl adolescentului. Familia afirmă că nu au găsit nimic relevant până când au deschis ChatGPT.

S-a dovedit că în ultimele săptămâni de viață, Adam Rain folosea ChatGPT ca înlocuitor pentru comunicarea umană, discutând cu el problemele personale și cerând ajutor la teme. În cele din urmă, chatbotul a devenit, potrivit părinților, un „instructor pentru sinucidere”. „Ar fi fost în viață dacă nu ar fi fost ChatGPT. Sunt 100% convins de asta”, a spus Matt Rain.

În plângerea oficială se menționează că ChatGPT „l-a ajutat activ pe Adam să studieze metode de sinucidere”. Când adolescentul i-a spus chatbot-ului că își va lua viața „în câteva zile”, ChatGPT nu a întrerupt conversația și nu a activat niciun protocol de intervenție de urgență, potrivit documentului. Mai mult, susțin reclamanții, ChatGPT l-ar fi ajutat să redacteze o scrisoare de adio. Cu câteva ore înainte de moarte, Adam ar fi încărcat în ChatGPT o fotografie cu presupusul plan de sinucidere și ar fi întrebat dacă metoda va funcționa. Chatbotul ar fi oferit „ajutor pentru a o îmbunătăți”, se arată într-o plângere a părinților.

OpenAI a transmis că este profund întristată de moartea tânărului și că ChatGPT include mecanisme de siguranță, cum ar fi redirecționarea utilizatorilor către linii de ajutor în situații de criză. Potrivit companiei, aceste măsuri funcționează cel mai eficient în cazul interacțiunilor scurte, însă în cazul conversațiilor prelungite pot deveni „mai puțin fiabile”.

„Lucrăm pentru ca ChatGPT să ofere mai mult sprijin în momente de criză, facilitând accesul către servicii de urgență, ajutând oamenii să ia legătura cu persoane de încredere și întărind protecția adolescenților”, a declarat compania.

„Vom continua să ne îmbunătățim sub îndrumarea experților și din responsabilitate față de oamenii care folosesc instrumentele noastre”, se arată într-un comunicat oficial OpenAI, publicat pe 26 august, sub titlul „Sprijin pentru oameni atunci când au cea mai mare nevoie”.

Într-un comunicat, compania promite introducerea unor funcții de control parental, care să le permită părinților să aibă mai multă vizibilitate asupra modului în care copiii lor utilizează ChatGPT. Cazul lui Adam Rain nu este menționat explicit în declarația oficială.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.