Группа по отслеживанию киберугроз в Google (GTIG) опубликовала отчёт, в котором рассказала о первом в истории наблюдений случае, когда хакеры нашли уязвимость нулевого дня при помощи ИИ.
Искусственный интеллект уже не первый год помогает злоумышленникам писать вредоносное ПО, но это первый зафиксированный Google случай, когда при помощи ИИ как нашли дыру в коде, так и разработали эксплойт для её эксплуатации.
В документе напрямую не говорится ни о группе злоумышленников, ни о потенциальном пострадавшем. Эксперты лишь указали, что интерес к использованию ИИ для поиска уязвимостей уже проявляли группы хакеров из Китая и Южной Кореи.
GTIG пришла к выводу о том, что уязвимость нашёл ИИ благодаря специфике написанного для обхода защиты кода. В отчёте указывается, что скрипт написан в строго структурированном Python-формате и имеет несколько образовательных сносок, что характерно для языковых моделей искусственного интеллекта. Google удалось вовремя помочь пострадавшему залатать дыру в коде.
Также компания уверена, что для поиска уязвимости использовали не Gemini, а какую-то другую модель.
В интервью The New York Times ведущий аналитик GTIG Джон Хультквист отметил, что это только начало, и в будущем подобных атак будет больше:
Вот пример того, что может произойти. Мы считаем, что это только верхушка айсберга. Проблема, вероятно, гораздо серьезнее, и это всего лишь первое осязаемое доказательство, которое мы можем увидеть.— Джон Хультквист, ведущий аналитик GTIG
Уязвимость нулевого дня — это дефект, о котором не знают разработчики созданного ПО. Это делает их особенно опасными, потому что при проведении потенциальной кибератаки у пострадавшей стороны попросту нет времени оперативно отреагировать и защититься от угрозы.