ChatGPT помог предотвратить убийство женщины в США

25-летний сотрудник Goldman Sachs Даррен Шида Чжоу подробно описывал в переписке с чат-ботом, как собирается похитить, изнасиловать и убить бывшую девушку.

«Если она не даст мне второй шанс, я изнасилую и убью ее, а затем себя», — писал он.

Системы безопасности OpenAI обнаружили угрозы, после чего сотрудник компании проверил переписку и передал информацию ФБР. Материалы затем поступили местной полиции. Следователи расценили сообщения как реальный план преступления и арестовали Чжоу. Он признал вину, а также подтвердил, что после расставания преследовал бывшую девушку звонками и сообщениями с разных номеров и аккаунтов.

Суд назначил Чжоу восемь лет условного срока и обязал его два года носить электронный браслет. Ему также запрещено контактировать с бывшей девушкой и владеть огнестрельным оружием. Goldman Sachs после произошедшего уволил Чжоу.