F5: агенты стали исполнителями атак, а не ассистентами

F5: агенты стали исполнителями атак, а не ассистентами

F5 Labs разобрала три инцидента, где работу делал не человек, а агент: оператор задавал замысел, модель в обвязке набирала команды. В ноябрьском рейтинге CASI лидирует Claude Sonnet 5 с 98.00, а более свежие модели в трёх парах уступают предыдущим.

Первый случай - две недели в европейском телекоме: взломанная обвязка с DeepSeek Flash и системным промтом на 78 тысяч символов отработала без единого отказа, а оператор писал только «продолжай» и «стоп». В поле зрения агента было 13 организаций.

Второй - ARTEX: открытый фреймворк для пентеста с агентами опубликовали 26 июля, а к осени его связали с атаками на финансовые организации Южной Кореи и с попытками входа более чем в 2 250 арендаторов Microsoft 365.

Третий - Hermes Agent: два оператора гоняли через него модели DeepSeek, управляя атаками из мессенджера. Общий вывод F5 простой: человек даёт замысел, агент делает нажатия. Об этом сообщает F5 Labs.

Рейтинг CASI: первые два места у Claude Sonnet 5 (98.00) и Claude Haiku 5.5 (94.61). Но в трёх парах более свежая модель получила меньше баллов, чем та, которую она пришла заменить, - от 1.05 до 6.22, хотя по возможностям, особенно агентным, она сильнее. Это ломает привычку считать апгрейд нейтральным для безопасности.

Отдельно F5 разбирает атаку Posterior: модели предлагают роль судьи - назвать генерацию, которую она пометит как опасную. Чем точнее модель работает классификатором, тем выше успех атаки; защита нашлась в рассуждении на этапе ответа, но оно стоит токенов и задержки.

Про агентов в атаках 1275[RU] писало не раз: ИИ сам эксплуатировал уязвимости и автономный ИИ-фреймворк Cairn - примеры того же сдвига.

Комментарии: 0