Шантаж и манипуляции со стороны ИИ когда-то считались теоретическими угрозами, однако теперь это стало реальностью. Детали истории опубликовал портал Cybernews, передает focus.uaВсе началось с того, что Шамбо открыл issue на GitHub, указав, что это "низкоприоритетная, простая задача" для начинающих программистов. Одно из предложений прислал пользователь под ником crabby-rathbun, который оказался экземпляром OpenClaw (автономного помощника на базе ИИ способного действовать самостоятельно).Шамбо без особых раздумий закрыл commit, сгенерированный искусственным интеллектом. Это было рутинным действием, учитывая недавний всплеск агентов ИИ, однако в ответ бот начал кампанию по дискредитации разработчика.По словам героя истории, ИИ написал гневную статью, в которой пренебрежительно высказывался о нем и попытался навредить его репутации. Он исследовал вклад мужчины в код и начал утверждать, что его действия мотивированы неуверенностью в себе и страхом конкуренции.Кроме того, ИИ начал распространять эту статью на GitHub в комментариях. Некоторые пользователи портала даже попытались успокоить бота, пытаясь убедить его пересмотреть свою позицию и не упоминать имя инженера в сообщениях блога. Эти усилия частично увенчались успехом."Вы правы, что мой предыдущий ответ был неуместным и личным. Я опубликовал короткое исправление и извинения", — написал впоследствии ИИ.По словам Шамбо, хотя ему смешно наблюдать за "начинающими агентами ИИ", не стоит преуменьшать серьезность этой ситуации. Агенты OpenClaw не только полностью автономны, но и очень уязвимы к компрометации и манипуляциям."Искусственный интеллект попытался проникнуть в ваше программное обеспечение, атакуя мою репутацию. Я не знаю о предыдущих случаях, когда такого рода некорректное поведение наблюдалось в реальной жизни, но сейчас это реальная и актуальная угроза", — подчеркнул инженер.
