ИИ научился мстить: он атаковал пользователя, который отклонил его код

Шантаж и манипуляции со стороны ИИ когда-то считались теоретическими угрозами, однако теперь это стало реальностью. Детали истории опубликовал портал Cybernews, передает focus.ua

Все началось с того, что Шамбо открыл issue на GitHub, указав, что это "низкоприоритетная, простая задача" для начинающих программистов. Одно из предложений прислал пользователь под ником crabby-rathbun, который оказался экземпляром OpenClaw (автономного помощника на базе ИИ способного действовать самостоятельно).

Шамбо без особых раздумий закрыл commit, сгенерированный искусственным интеллектом. Это было рутинным действием, учитывая недавний всплеск агентов ИИ, однако в ответ бот начал кампанию по дискредитации разработчика.

По словам героя истории, ИИ написал гневную статью, в которой пренебрежительно высказывался о нем и попытался навредить его репутации. Он исследовал вклад мужчины в код и начал утверждать, что его действия мотивированы неуверенностью в себе и страхом конкуренции.

Кроме того, ИИ начал распространять эту статью на GitHub в комментариях. Некоторые пользователи портала даже попытались успокоить бота, пытаясь убедить его пересмотреть свою позицию и не упоминать имя инженера в сообщениях блога. Эти усилия частично увенчались успехом.

"Вы правы, что мой предыдущий ответ был неуместным и личным. Я опубликовал короткое исправление и извинения", — написал впоследствии ИИ.

По словам Шамбо, хотя ему смешно наблюдать за "начинающими агентами ИИ", не стоит преуменьшать серьезность этой ситуации. Агенты OpenClaw не только полностью автономны, но и очень уязвимы к компрометации и манипуляциям.

"Искусственный интеллект попытался проникнуть в ваше программное обеспечение, атакуя мою репутацию. Я не знаю о предыдущих случаях, когда такого рода некорректное поведение наблюдалось в реальной жизни, но сейчас это реальная и актуальная угроза", — подчеркнул инженер.