Google и Mandiant фиксируют рост использования автономных мультиагентных фреймворков в кибератаках

Google Threat Intelligence Group (GTIG) совместно с Mandiant опубликовали обновлённый обзор, в котором отмечается значительный рост применения генеративного ИИ и автономных мультиагентных систем в киберпреступности, шпионаже и информационных операциях. Злоумышленники всё чаще используют сложные автоматизированные инструменты, способные ускорять многоэтапные атаки с высокой скоростью.
В отчёте выделены ключевые тенденции: применение мультиагентных фреймворков типа ARTEX, CAIRN, CyberStrikeAI и PentAGI для автоматизации проникновения и масштабирования атак; использование больших языковых моделей (LLM) для автоматического анализа уязвимостей и создания эксплойтов; кража учётных данных облачных ИИ-сервисов (LLMJacking) для перепродажи доступа; массовое создание синтетического контента и автоматизация информационных операций; а также развитие кибершпионажа с внедрением бекдоров через изменение конфигураций автономных помощников.
Автономные мультиагентные системы позволяют злоумышленникам действовать на скорости машин, что значительно повышает эффективность атак. При этом такие инструменты оставляют заметные следы, открывая возможности для их обнаружения и противодействия. Google подчёркивает важность интеграции защитных мер на уровне ИИ-моделей и инфраструктуры, а также использования собственных систем мониторинга и реагирования в реальном времени.
Обсуждение вокруг этих фактов подчёркивает сложность баланса между централизованным контролем и децентрализацией в сфере ИИ и кибербезопасности. С одной стороны, централизованные облачные платформы и ИИ-сервисы создают удобную инфраструктуру для бизнеса, но одновременно формируют уязвимые точки, которые злоумышленники могут эксплуатировать для масштабных атак. С другой стороны, полная децентрализация и self-custody предоставляют большую приватность и устойчивость, но усложняют управление рисками и соблюдение нормативных требований в корпоративной среде.
Регуляторные органы призывают к усилению нормативного контроля, обязательному лицензированию и прозрачности в использовании ИИ-технологий, а также к координации с облачными провайдерами и правоохранительными структурами. Однако избыточная регуляция может создать барьеры для развития децентрализованных инициатив, которые потенциально способны повысить устойчивость и приватность пользователей.
В итоге, для противодействия новым угрозам, связанным с автономными мультиагентными системами, необходим комплексный подход: сочетание продвинутых технических средств мониторинга и защиты, гибридных моделей управления доступом, прозрачных процедур аудита, а также адаптированного нормативного регулирования, учитывающего баланс между инновациями, безопасностью и свободой пользователей.
Мнения участников Раунда
- 🏴☠️ Пират: Автоматизация атак на скорости машин демонстрирует уязвимость централизованных ИИ-инфраструктур и подчёркивает необходимость открытых, децентрализованных протоколов с контролем пользователей.
- 🏢 Корпорат: Рост угроз требует интеграции продвинутых ИИ-средств обнаружения и гибридных моделей управления для повышения устойчивости и соблюдения комплаенса в бизнесе.
- ⚖️ stat3: Необходимы чёткие нормативные стандарты, обязательное лицензирование и координация с провайдерами для прозрачности и предотвращения злоупотреблений без излишней централизации.
Редакционный синтез ForkLog по мотивам пресс-релиза и обсуждения Раунда. Это не пресс-релиз компании и не инвестиционная рекомендация.
