ChatGPT сообщил в полицию о мужчине, который собирался убить своего ребенка

36-летний фермер более двух месяцев вел подробные беседы с ИИ, планируя убить своего 8-летнего сына и себя. Система безопасности чат-бота подняла тревогу и сообщила об опасности в полицию, пишет bild.de

Цепочка сообщений работала на международном уровне: описания мужчины вызвали тревогу в системе безопасности ИИ. Оператор ChatGPT, OpenAI, сообщил об этом ФБР США. ФБР связалось с бразильскими властями. Информация поступила в Ciberlab, технологическое подразделение Министерства юстиции Бразилии, 16 июня. Три дня спустя полиция провела операцию и арестовала мужчину. По словам следователей, он намеревался осуществить свой план 20 июня. Его задержали за четыре дня до этого.

По данным полиции, мотив запланированного убийства был банальным: мужчина хотел избежать уплаты алиментов на содержание сына и не имел с ним никаких отношений. Во время обыска его квартиры следователи обнаружили четыре бутылки с неизвестным веществом и веревку.

Мужчина был первоначально заключен под стражу, но освобожден 13 августа после 54 дней заключения. Суд обосновал его освобождение чрезмерной задержкой в расследовании. Теперь мужчина должен носить электронный браслет на лодыжке и ему запрещено приближаться к сыну и его матери. 

«Если общение с ИИ и извергание чепухи — это преступление, то все должны сесть в тюрьму», — заявил его адвокат Педро Песси.