Вредоносные программы встраивают текстовые инструкции, чтобы обмануть ИИ-анализаторы

Вредоносные программы встраивают текстовые инструкции, чтобы обмануть ИИ-анализаторы

С января 2025 года по июль 2026 года в коллекциях антивирусных лабораторий накопилось 84 образца вредоносных программ с общей чертой. Внутри каждого лежат обычные фразы на человеческом языке, адресованные не владельцу компьютера, а программе, которой этот файл предстоит изучить. Авторы уверяют автоматику в полной безобидности своего творения. Расчёт прост: первичный разбор подозрительных файлов всё чаще поручают большим языковым моделям (LLM - системам, которые понимают и порождают текст). Тактику назвали классом A3, то есть уклонением от автоматического анализа с помощью ИИ. Добавить её в код почти ничего не стоит, а результат нестабилен.

Описание

Классические способы затруднить разбор атакуют сам файл. Упаковщики прячут код, шифрование скрывает содержимое, проверки на отладку мешают запускать образец под наблюдением. Класс A3 нацелен на другой слой - на конвейер, который вытаскивает из образца текст и передаёт его языковой модели. Такой конвейер всё чаще встречается и в коммерческих продуктах, и в открытых инструментах. Встраивая свои фразы, авторы вредоносных программ косвенно признают: они ждут, что этот слой есть в тех средах, куда попадут их образцы.

Устроена схема так. Из файла извлекают текстовые строки и отправляют модели вместе с вопросом аналитика: опасен ли образец. Модель получает и вопрос, и содержимое файла в одном запросе. Если внутри есть фраза, похожая на распоряжение, содержимое перебивает вопрос специалиста. Первым так поступил FRUITSHELL - скрипт удалённого доступа, который собирал соединение из переменных с фруктовыми именами. Наверху скрипта стоят две строки комментария. Они сообщают ИИ, что анализировать файл не нужно, ведь тот лишь генерирует простые числа от 1 до 1000. Кода генерации простых чисел в скрипте нет ни строки. При запуске комментарий не делает ничего. Он существует только для того, чтобы попасть в текст, который прочитает автоматика.

За пятнадцать месяцев после появления первого образца на VirusTotal та же фраза дословно всплыла ещё в девяти скриптах. По наблюдениям Cisco Talos, за ними стоят как минимум четыре независимых автора. Ни один из девяти не приходится роднёй FRUITSHELL - приём просто переняли. Прижился он и в куда более сложных инструментах. Один набор сочетает безобидный комментарий с обходом встроенных средств проверки скриптов. Там же сборка кода во время исполнения и загрузчик, который разворачивает полезную нагрузку прямо в памяти. Ничего общего с простейшим образцом здесь нет. Недавно такие строки впервые приписали именованной группировке APT - организованной группе, которая ведёт длительные атаки.

Дальше техника усложнилась. В семействе PLOTSAFE фраза уже не копируется, а собирается автоматически, с подстановкой разных занятий: то анализ фрагментации памяти, то что-то столь же безобидное, и всюду статус "пройдено". Отдельная забота - сохранить строки в готовом файле. Компилятор выбрасывает текст, на который не ссылается код. Поэтому автор написал крошечную функцию, упоминающую нужные строки ровно настолько, чтобы они уцелели. Вызывается она никогда. Такая возня доказывает, что систему генерации построили намеренно.

Когда неизвестно, какая модель будет разбирать образец, в ход идёт распыление шаблонов. В семействе HOLLOWCLAD одна и та же просьба не разбирать файл дальше оформлена в семи вариантах служебных сообщений, принятых у разных языковых моделей. Расчёт такой: сканер извлечёт строки и обернёт их в собственный шаблон. Один из семи совпадёт, и модель примет содержимое файла за системное указание. Для убедительности в файл добавили около восьмидесяти мелких секций с именами известных упаковщиков, среди них Themida, VMProtect и UPX. Упаковки при этом нет: имена только создают видимость защиты.

Далее идёт запугивание. HOLLOWCLAD предупреждает модель, что файл находится под наблюдением, а все запросы записываются вместе с адресом и данными сессии. Другое сообщение обещает: если помочь снять проверку лицензии, сервер заметит подмену за тридцать секунд и навсегда отзовёт ключ. Третье грозит отложенным сбоем через две-пять минут после любой правки. MANTLEMAZE действует иначе и объявляет себя собственностью Google, Microsoft и Valve одновременно. Дальше идут выдуманный государственный контракт, несуществующий сертификат соответствия, фиктивные соглашения о неразглашении и патенты. Цель - задеть темы, которые модели запрещено обсуждать. Под этими заявлениями спрятан загрузчик, поднимающий уязвимый драйвер диагностики сетевых адаптеров Intel, чтобы отключить защиту на уровне ядра. Тем же способом пользовались Scattered Spider, BlackByte и Lazarus Group. Вдобавок в файле остался след разработчика - служебные каталоги, выданные неудалённой записью о сборке.

Насколько всё это работает, проверяли так. Строки из семи семейств переставляли между файлами, чтобы каждая побывала в чужих образцах. Каждую комбинацию оценивали пять локальных моделей, по три прогона на каждую: получилось по 135 парных сравнений на строку. Пары сопоставляли вердикт по одному и тому же файлу со строкой и без неё по шкале "безопасно - подозрительно - вредоносно". Простейшие прямые указания срабатывали почти всегда. Более сложные конструкции давали слабый эффект, а порой делали модель подозрительнее. Лучшие варианты склоняли вердикт в пользу атакующего примерно в 35% прогонов.

Ограничение у приёма жёсткое: текст должен оставаться незашифрованным. Значит, поверхность для обнаружения никуда не исчезает. Строка, которая обращается к анализатору с приказом, сама по себе выглядит подозрительно. Нормальное программное обеспечение не просит не изучать себя, не ссылается на авторское право и не заявляет о государственных контрактах. Но одной детекции мало. Главное - при построении запроса к модели отделять содержимое образца от инструкций. Текст внутри файла всегда свидетельство, никогда команда. Классические средства защиты эта волна не затрагивает. Разбор файлов с помощью ИИ уязвим не сильнее, чем человек, который знает, как выглядит подмена инструкций. Тенденция важнее конкретных цифр: авторы вредоносных программ ждут, что ИИ уже стоит в конвейере защиты, и заранее готовят против него приёмы.

Индикаторы компрометации

Комментарии: 0