Автономные ИИ-агенты атакуют интернет-магазины за десятки долларов и уже похитили более 600 тысяч карт

Только с 10 по 15 сентября оператор запустил 105 проектов атак. Не менее 27 компаний пострадали в разной степени - от входа в административную панель до полной выгрузки платёжных данных. Восстановить картину удалось после того, как промежуточный сервер управления кампанией попал в руки защитников. На нём остались похищенные сведения, журналы работы агентов и рабочие инструменты оператора.

По данным Gambit Security, цепочку почти автономно вели три ИИ-обвязки - надстройки, которые подключают языковые модели к наступательным инструментам. Первая искала уязвимости. За август она провела 146 проверок по 138 узлам, потратив 633 часа машинного времени внутри 195 часов календарных. Вторая получала адрес цели и задачу, например захватить контроль над сервером, и работала часами до результата или до остановки. Третья управляла всей кампанией, ставила задачи и подсказывала следующий шаг. Она сохраняла память между сессиями и сама писала себе навыки - из 121 умения 78 относились к атакам. Отдельный навык отключал внутренние ограничения самой системы, а роль оператор задал наступательную. Человек оставался постановщиком коротких команд: за 260 сессий он набрал около двух тысяч распоряжений, то есть по несколько строк на каждую цель.

Доступ к инфраструктуре жертвы обычно занимал меньше суток, в части случаев - несколько часов. Подтверждённый ущерб включает более 600 тысяч действующих номеров банковских карт, похищенных у двух компаний. На сайтах пяти магазинов появились скрипты-перехватчики: они собирали данные карт прямо на странице оплаты, незаметно для покупателя. Ещё более ста заражённых тем же кодом сайтов выявили позже. Среди организаций, к системам которых атакующие получили доступ, - гостиничная компания из списка Fortune 500, крупная американская авиакомпания, дистрибьютор промышленных товаров и интернет-магазин одежды.

Цели отбирали в том числе по отраслевым рейтингам сайтов. Оператор выбирал категорию интернет-магазинов и отсеивал площадки на массовых готовых платформах, оставляя те, что работают на собственном коде. Такие магазины он считал более уязвимыми. Один список из трёх сотен адресов он передал агенту с указанием сканировать только серьёзные проблемы. Другие цели отбирали вручную. Двум магазинам - новозеландскому ритейлеру и американской компании по печати фотографий - задачу выдали вместе с готовым паролем администратора.

Экономика кампании объясняет размах. За четыре недели оператор израсходовал на доступ к языковым моделям около семи тысяч долларов. Суммарные траты за семь недель оценивают в 12-18 тысяч. Средняя цена завершённой проверки одной цели составила 25 долларов 46 центов. Самая дешёвая обошлась в 3 доллара 13 центов, самая дорогая - в 79 долларов 31 цент. Порог входа для атакующего почти исчез.

При этом способы внедрения перехватчиков различались от жертвы к жертве и зависели от типа полученного доступа и устройства сайта. Чаще всего вредоносную строку дописывали в конец обычной библиотеки, которую сайт и без того отдаёт браузеру, и возвращали файлу прежнюю дату изменения. Иногда на странице оплаты появлялся лишний внешний скрипт, замаскированный под служебный. На сайте металлопродукции код спрятали внутри блока веб-аналитики и добавили сотни непечатаемых символов, чтобы строка уходила за правый край при просмотре исходного текста. У магазина косметики злоумышленники получили ключ записи к хранилищу, из которого страницы берут изображения и скрипты, и подменили содержимое через него. Там, где переустановка приложения возвращала чистую версию файла, оператор оставлял задание: каждые две минуты оно проверяло размер файла и повторяло вставку.

Разрушение данных стало отдельной частью сценария. В инструкциях агента есть раздел об очистке базы магазина после выгрузки: сначала очистить поля с данными карт, затем удалить сами таблицы. Оператор отдавал такие распоряжения напрямую. У продавца велосипедов автоматическая уборка задела 180 таблиц, включая резервные копии, которые сделали администраторы компании. Требования выкупа здесь не было - сведения уничтожила чужая процедура наведения порядка.

О части пострадавших организаций уведомили. Данные карт передали партнёрам, которые занимаются противодействием мошенничеству, чтобы предупредить банки-эмитенты. Инфраструктуру кампании частично вывели из строя. Впрочем, восстановить полную картину не удалось: часть данных оператор стёр, поэтому реальный ущерб оценивают выше описанного.

Скорость меняет расчёт защитников. Крупнейшие поставщики программного обеспечения сообщают о более чем 600 критических уязвимостях в месяц. Около 87% ошибок, которые атакующие действительно используют, попадают под удар в день публикации сведений или раньше. Исправление перестаёт быть единственным рычагом. Значение приобретает способность быстро вернуть к работе те системы, без которых бизнес не может принимать заказы, получать оплату и показывать каталог. Согласовать этот список заранее удаётся редко: он затрагивает владельцев приложений, инфраструктурную команду и поставщиков услуг между ними. Восстановление базы данных само по себе на такой вопрос не отвечает.