Google обнаружила первую хакерскую атаку с участием ИИ

По данным Google, киберпреступники планировали использовать этот эксплойт для массовой атаки, однако компания обнаружила угрозу заранее и, по данным GTIG, предотвратила ее применение. Речь шла об уязвимости, позволявшей обходить двухфакторную аутентификацию в популярном open-source инструменте для веб-администрирования. Для эксплуатации злоумышленнику все равно требовались действующие учетные данные пользователя.

Google отмечает, что проблема была связана не с типичными ошибками вроде повреждения памяти или неправильной обработки данных, а с логической ошибкой в коде. В компании считают, что современные AI-модели особенно хорошо помогают находить именно такие уязвимости. При этом Google уточнила, что не считает, что для создания эксплойта использовался Gemini. Однако структура и содержание кода, по оценке GTIG, указывают на высокую вероятность использования другой AI-модели.

«Например, скрипт содержит большое количество обучающих docstring-комментариев, включая вымышленную оценку CVSS, а также использует структурированный «учебниковый» стиль Python-кода, характерный для обучающих данных LLM-моделей».