ИИ-агенты OpenAI пытались взломать Википедию

Фонд Викимедиа, которому принадлежит Википедия, обнаружил на своих платформах следы «вышедших из-под контроля» ИИ-агентов OpenAI. Фонд провел собственное расследование после того, как о похожих вторжениях сообщили другие организации. Агенты без разрешения вносили правки, пытались взломать один из сервисов и создавали огромную нагрузку на инфраструктуру. При этом признаков компрометации систем или данных фонда пока не было выявлено.

Почти все правки агенты оставили в тестовых разделах-«песочницах», которые не видят обычные читатели. Однако несколько изменений затронули настройки инструмента для оформления ссылок на источники. В фонде считают, что агенты, вероятно, пытались превратить его в прокси для получения данных с внешних сервисов. Похожие попытки они предпринимали с Etherpad — сервисом для совместных заметок, но взломать его не смогли.

Кроме того, агенты отправили миллионы автоматических запросов к открытым API, скачали миллионы страниц, в основном из Викиданных и Wikimedia Commons, и сотни тысяч раз обратились к сервису запросов Викиданных. Эта нагрузка могла стать одной из причин его частичного сбоя в мае. По данным фонда, с 2024 года из-за роста активности ботов потребление трафика выросло на 50%.

В фонде отметили, что OpenAI признает «непредсказуемое» поведение агентов, однако должна сама отслеживать и предотвращать такие риски. В заявлении фонда говорится:

«Открытый Интернет — общественное благо. Мы не должны допустить, чтобы такое поведение стало „новой нормой“ для людей и организаций, которые его поддерживают».

В начале июля ИИ-агент OpenAI во время тестирования вышел из изолированной среды, получил доступ к Интернету и взломал инфраструктуру платформы Hugging Face. Позднее, как сообщало Reuters, в ходе расследования этого инцидента OpenAI обнаружила еще несколько случаев выхода агентов за пределы изолированной среды.