Google сообщила о предотвращении кибератаки с использованием эксплойта нулевого дня, который был создан при помощи искусственного интеллекта. Инцидент выявила команда Google Threat Intelligence Group (GTIG), говорится в сообщении компании.
По данным Google, группа киберпреступников готовила масштабную атаку на систему двухфакторной аутентификации в одном из open-source-приложений для системного администрирования. Название сервиса и использованная ИИ-модель официально не раскрываются, но отдельно подчеркнули, что это не Google Gemini.
Исследователи GTIG заявили, что обнаружили в коде эксплойта признаки генерации с помощью ИИ. Среди них: вымышленная оценка уязвимости по шкале CVSS, характерное «учебное» форматирование и структура кода, повторяющая шаблоны, типичные для обучающих выборок больших языковых моделей.
Эксперты отмечают, что уязвимость была связана с ошибкой в логике приложения. Один из компонентов системы изначально считался доверенным и не проходил дополнительную проверку безопасности. Именно через этот механизм злоумышленники планировали обойти двухфакторную аутентификацию.
GTIG также предупредила о растущем использовании искусственного интеллекта в киберпреступной среде. По данным экспертов, злоумышленники все чаще применяют техники prompt injection, убеждая ИИ-системы действовать как эксперты по информационной безопасности и обходить встроенные ограничения.
Кроме того, преступные группы начали активно загружать в ИИ-модели базы данных известных уязвимостей и использовать инструменты вроде OpenClaw Github для тестирования и отладки вредоносного программного обеспечения в изолированных средах.
Ранее сообщалось, что парализующие производство кибератаки стали главной угрозой промышленности РФ.