ChatGPT a ajutat la prevenirea uciderii unei femei în SUA

Angajatul Goldman Sachs, Darren Shida Zhou, în vârstă de 25 de ani, descria în detaliu, într-o conversație cu un chatbot, cum intenționa să-și răpească, violeze și ucidă fosta iubită.

„Dacă nu îmi va da o a doua șansă, o voi viola și o voi ucide, apoi mă voi ucide și pe mine”, scria el.

Sistemele de securitate ale OpenAI au detectat amenințările, după care un angajat al companiei a verificat conversația și a transmis informațiile FBI-ului. Materialele au ajuns ulterior la poliția locală. Anchetatorii au considerat mesajele drept un plan real de comitere a unei infracțiuni și l-au arestat pe Zhou. El și-a recunoscut vina și a confirmat, de asemenea, că după despărțire și-a hărțuit fosta iubită prin apeluri și mesaje de pe diferite numere și conturi.

Instanța l-a condamnat pe Zhou la opt ani de închisoare cu suspendare și l-a obligat să poarte timp de doi ani o brățară electronică. De asemenea, i s-a interzis să contacteze fosta iubită și să dețină arme de foc. Goldman Sachs l-a concediat pe Zhou în urma incidentului.