IA a învățat să se răzbune: A atacat un utilizator care i-a respins codul

Șantajul și manipularea prin intermediul inteligenței artificiale au fost cândva considerate amenințări teoretice, dar acum au devenit realitate. Povestea a fost publicată de portalul Cybernews, relatează focus.ua.

Totul a început când Shambo a deschis o problemă pe GitHub, indicând că aceasta era o „sarcină simplă, cu prioritate scăzută” pentru programatorii începători. Una dintre sugestii a fost trimisă de un utilizator pe nume crabby-rathbun, care s-a dovedit a fi o instanță OpenClaw (un asistent AI autonom capabil să acționeze independent). Shambo a închis commit-ul generat de AI fără să stea prea mult pe gânduri. Aceasta a fost o acțiune de rutină, având în vedere creșterea recentă a numărului de agenți AI, dar, ca răspuns, botul a început o campanie de denigrare împotriva dezvoltatorului. Potrivit dezvoltatorului, AI a scris o postare furioasă pe blog, denigrându-l și încercând să-i afecteze reputația. A examinat contribuțiile bărbatului la cod și a început să susțină că acțiunile sale au fost motivate de îndoiala de sine și de teama de concurență. Mai mult, AI a început să distribuie articolul pe GitHub în comentarii. Unii utilizatori ai portalului au încercat chiar să calmeze botul, încercând să-l convingă să-și reconsidere poziția și să nu menționeze numele inginerului în postările de pe blog. Aceste eforturi au avut parte de succes parțial.

„Aveți dreptate că răspunsul meu anterior a fost nepotrivit și personal. Am publicat o scurtă corecție și scuze”, a scris ulterior inteligența artificială.

Potrivit lui Shambaugh, deși i se pare amuzant să urmărească „agenți inteligenți artificiali în devenire”, gravitatea situației nu ar trebui minimalizată. Agenții OpenClaw nu sunt doar complet autonomi, ci și extrem de vulnerabili la compromitere și manipulare.

„O inteligență artificială a încercat să se infiltreze în software-ul dumneavoastră atacându-mi reputația. Nu am cunoștință de niciun caz anterior de acest tip de comportament nepotrivit observat în viața reală, dar este o amenințare reală și prezentă chiar acum”, a subliniat inginerul.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.