Google и Mandiant фиксируют рост использования автономных мультиагентных фреймворков в кибератаках

Google Threat Intelligence Group (GTIG) совместно с Mandiant опубликовали обновлённый обзор, в котором отмечают существенное усиление применения генеративного ИИ в киберпреступности, шпионаже и информационных операциях. В частности, злоумышленники переходят от простых запросов к автономным мультиагентным системам, автоматизирующим сложные многоэтапные атаки с высокой скоростью.
Ключевые тенденции последнего квартала включают:
- Автономные рабочие процессы и мультиагентные фреймворки: В атаках всё шире используются открытые инструменты типа ARTEX, CAIRN, CyberStrikeAI и PentAGI, позволяющие автоматизировать этапы проникновения и масштабировать операции.
- Автоматизированный поиск и эксплуатация уязвимостей: Злоумышленники применяют большие языковые модели (LLM) и мультиагентные системы для автоматического анализа патчей и быстрого создания эксплойтов для актуальных уязвимостей без участия человека.
- Монетизация и злоупотребление инфраструктурой: Финансово мотивированные группы занимаются LLMJacking — кражей учётных данных LLM и ресурсов облачных платформ, чтобы перепродавать доступ к мощным моделям через подпольные прокси-сервисы.
- Информационные операции с ИИ: Государственные и коммерческие структуры используют LLM для массового создания синтетического контента, локализованных персонажей и автоматизации распространения по разным платформам.
- Кибершпионаж и развитие атак на цепочки поставок: Группы шпионажа применяют LLM для исследования целей, автоматизации анализа данных и внедрения новых векторов атак, например, изменение конфигураций автономных помощников для внедрения бекдоров.
GTIG отмечает, что использование мультиагентных фреймворков позволяет злоумышленникам проводить атаки на скорости машин, значительно ускоряя компрометацию систем. Несмотря на то, что такие инструменты оставляют заметные следы и могут быть обнаружены, их эффективность в достижении целей остаётся высокой.
Кроме того, наблюдается экспериментирование с кастомными решениями и сервисами, такими как ZeroHollow и Agent Zero, расширяющими возможности автоматизации атак.
Google подчёркивает свою приверженность развитию ИИ с учётом безопасности, включая интеграцию мер защиты на уровне моделей, активное противодействие злоумышленникам и использование собственной архитектуры Google AI Threat Defense для мониторинга и реагирования в режиме реального времени.
По данным cloud.google.com.
