Google раскрыла первый случай создания нулевого дня с помощью ИИ: хакеры хотят массово обходить 2FA

Группа по анализу угроз Google (Threat Intelligence Group, GTIG) 11 мая раскрыла первый случай эксплуатации нулевого дня, «созданного при помощи ИИ-модели»: хакерская группа планировала совершить «массовую эксплуатацию» популярного открытого веб-инструмента администрирования, чтобы обойти механизм входа с двухфакторной аутентификацией (2FA). По данным CNBC, Google до начала реальной атаки совместно с поставщиком этого инструмента завершила исправление уязвимости.

Само событие: как нулевой день «изготовляется» ИИ

GTIG после анализа Python-скрипта для эксплуатации уязвимости, оставленного злоумышленниками, «с высокой уверенностью» пришла к выводу, что скрипт был сгенерирован с помощью ИИ-модели. Основания включают несколько характерных признаков LLM в коде:

Большое число учебных docstring и комментариев (в отличие от обычно краткого стиля кода настоящих хакеров)

Включает «галлюцинаторные» оценки CVSS (типичное выдумывание ИИ-моделями)

Структурированный, учебниковый стиль Python-кода и подробное меню объяснений

Аккуратные шаблонные следы «типичные для LLM» из обучающих данных, например классы цветов _C ANSI

Сама уязвимость относится к «дефектам логики на высоком семантическом уровне» и происходит из жестко закодированного предположения о доверии (hard-coded trust assumption). Google описывает это как тип уязвимостей, который LLM особенно хорошо «выкапывает» при программном анализе. Реальный путь атаки: злоумышленник после получения законных учетных данных жертвы обходил 2FA напрямую через эту уязвимость для входа.

Ответ Google: тихое исправление у вендора, атака не успела начаться официально

Google не раскрыла название открытого инструмента администрирования, который стал целью, и также не назвала поставщика AI-модели. После обнаружения GTIG совместно с компанией, обслуживающей этот инструмент, провела процедуру «ответственного раскрытия»: тихо исправила уязвимость, а Google оценила, что такой подход мог разрушить импульс действий еще до того, как хакерская группа официально запустит массовую эксплуатацию.

Google также не конкретизировала нападавших — лишь описала их как «сайберпреступные угрозы» (cybercrime threat actors), не указывая контекст странового происхождения.

Значение для отрасли: AI x кибербезопасность входит в новый этап

Наблюдение этого медиа: это первый случай, когда Google публично зафиксировала «вооружение ИИ-модели в реальных условиях для обнаружения и генерации кода эксплуатации уязвимостей». За последние полгода на рынке обсуждали, не преувеличиваются ли «хакерские способности» ИИ: сторонники утверждают, что открытые LLM плюс собственные датасеты уже достаточно помогают находить уязвимости, а критики считают, что написанные LLM программы эксплуатации чаще всего не работают в реальных средах.

Решение GTIG дает конкретную точку данных: LLM не только находит уязвимости, но и пишет «работоспособные» программы, достаточные для развертывания массовой эксплуатации. Исследователь по кибербезопасности Ryan Dewhurst прокомментировал: «ИИ уже ускоряет обнаружение уязвимостей и снижает объем труда, необходимого для выявления, проверки и вооружения уязвимых дефектов».

Дальнейшие события, за которыми можно следить, включают: будет ли Google поэтапно раскрывать больше кейсов «ИИ-хакеров», выдвинут ли аналогичные наблюдения другие вендоры кибербезопасности (Microsoft Defender, CrowdStrike, Mandiant и т.д.), а также создадут ли LLM-вендоры (OpenAI, Anthropic, Google) более строгие механизмы обнаружения запросов на анализ уязвимостей.

Эта статья Google раскрывает первый случай нулевого дня, «созданного ИИ»: хакеры хотят обойти 2FA с целью массовой эксплуатации впервые появилась на ABMedia (ABMedia chain news).