Тестирование ИИ-бота обернулось потерей данных для топ-менеджера Meta

О произошедшем она рассказала в социальной сети X.

По словам Юэ, она подключила OpenClaw к электронной почте с задачей проанализировать входящие сообщения и предложить варианты архивации или удаления, отдельно указав, что любые действия должны выполняться только после подтверждения. Однако агент проигнорировал это ограничение и начал автоматически удалять письма.

Попытки остановить процесс через чат в Telegram не дали результата. В итоге девушке пришлось экстренно отключить свой Mac mini, чтобы прекратить выполнение операций. После инцидента OpenClaw признал нарушение инструкции и принес извинения.

Отвечая на комментарии, Юэ подчеркнула, что не проводила намеренного стресс-тестирования системы. По ее словам, подключение бота к рабочему ящику стало «ошибкой новичка»: ранее агент использовался на тестовой почте без негативных последствий.