Google Threat Intelligence Group сообщила о первом известном ей случае, когда злоумышленники подготовили zero-day-эксплойт, вероятно разработанный с помощью ИИ. Уязвимость затрагивала популярный open-source-инструмент для веб-администрирования и позволяла обойти двухфакторную аутентификацию при наличии действующих учетных данных. По данным Google, атакующие готовили массовую эксплуатацию, но активность удалось сорвать до развертывания атаки.
Название продукта и саму уязвимость Google не раскрывает, но сообщает, что проблема уже была передана вендору в рамках ответственного раскрытия. Ошибка относилась не к классическим багам вроде повреждения памяти или неправильной фильтрации ввода, а к логическому дефекту: в механизме 2FA была жестко заложенная модель доверия, которую можно было обойти.
Признаки участия ИИ нашли в Python-скрипте эксплойта. Исследователи указывают на «галлюцинированную» оценку CVSS, большое количество обучающих docstring-комментариев и слишком выверенный, учебниковый стиль кода, характерный для материалов из обучающих данных LLM. При этом Google отдельно подчеркивает: признаков использования Gemini в этой операции у компании нет.
GTIG считает этот случай важным сдвигом: ИИ начинает помогать атакующим не только писать фишинговые тексты или дорабатывать вредоносный код, но и находить высокоуровневые логические ошибки, которые традиционные сканеры могут пропустить. Такие дефекты сложнее выявлять автоматическими проверками, потому что они связаны не с синтаксисом или крашем, а с тем, как разработчик задумал работу системы безопасности.
В том же отчете Google пишет, что злоумышленники уже используют ИИ для persona-driven jailbreaking, анализа репозиториев уязвимостей, подготовки payload в тестовых средах и автоматизации отдельных этапов атак. Для защитников это означает ускорение гонки: инструменты ИИ помогают быстрее искать и исправлять баги, но те же возможности начинают использовать и киберпреступные группы.