Testarea unui bot de inteligență artificială a dus la pierderea de date pentru un manager de top din Meta

Ea a raportat incidentul pe rețeaua de socializare X.

Potrivit lui Yue, ea a conectat OpenClaw la e-mailul ei cu sarcina de a analiza mesajele primite și de a oferi opțiuni de arhivare sau ștergere, specificând în mod specific că orice acțiune trebuie efectuată numai după confirmare. Cu toate acestea, agentul a ignorat această restricție și a început să șteargă automat e-mailurile.

Încercările de a opri procesul prin chatul Telegram au fost nereușite. Drept urmare, fata a trebuit să-și oprească urgent Mac mini-ul pentru a opri operațiunile. După incident, OpenClaw a recunoscut încălcarea instrucțiunilor și și-a cerut scuze.

Răspunzând la comentarii, Yue a subliniat că nu a testat intenționat sistemul la stres. Potrivit acesteia, conectarea botului la căsuța ei poștală de la serviciu a fost o „greșeală de începător”: agentul fusese folosit anterior pe un e-mail de test fără consecințe negative.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.