Злоумышленники подменяют команды установки ИИ-сервисов на вредоносные

Злоумышленники подменяют команды установки ИИ-сервисов на вредоносные

Сотрудники ставят себе ИИ-инструменты быстрее, чем служба безопасности успевает их одобрить. Человек ищет программу в поисковике, открывает первую понятную инструкцию и повторяет шаги. Установка многих таких продуктов сводится к одной команде в терминале. Выполняют её всё чаще люди без технической подготовки. Поэтому каждый поиск и каждый запуск даёт злоумышленникам возможность подменить команду, которую человек вставляет сам.

Описание

Волна атак опирается на два приёма. Первый, InstallFix, подделывает страницы установки известных ИИ-инструментов: Claude Code, Codex и многих других. Встречаются подделки даже под сервисы без настольной версии, например под NotebookLM. Вместо настоящей команды пользователю предлагают вредоносную. Второй приём, LLMshare, использует общие чаты и настраиваемые версии больших языковых моделей. Внутри такого чата лежит ссылка на отдельную страницу, откуда приходит полезная нагрузка (код, который выполняет основную вредоносную работу). Оба приёма выросли из семейства ClickFix - техники, при которой жертву убеждают собственноручно вставить чужую команду в терминал или в окно запуска. На новые сценарии пришлось около 5% всех выявленных атак {как установили в Push}, а родственные им срабатывания дают больше половины перехватов за месяц. Четыре из пяти вредоносных страниц этого семейства посетители открывают из поисковой выдачи, а не по ссылке из письма.

Типичная цепочка начинается с запроса в поиске. Например, человек ищет, как поставить Claude на Mac. Рекламное объявление в выдаче показывает домен Bing, а на деле уводит браузер дальше по длинной цепочке переходов. Сначала срабатывает счётчик кликов Bing, затем посетитель попадает на страницу южноамериканского интернет-магазина гомеопатии. Магазин, судя по всему, взломан: пришедшим по нужному маршруту он отдаёт перенаправление на поддельную страницу загрузки. Приём получил внутреннее имя Adception. Реклама одного поисковика ведёт на результаты другого, а те отправляют человека на вредоносный ресурс.

Визуальный обман начинается у кнопки загрузки. Страница выглядит аккуратно и повторяет официальную. На экране показана настоящая команда установки. В буфер обмена при этом попадает другая, вредоносная. Человек вставляет её в терминал и видит привычные строки: система сообщает, что скачивает установщик с официального адреса Claude. Настоящая загрузка идёт позже и с другого сервера. Его адрес хранится в закодированном виде и расшифровывается на ходу, поэтому в строке не появляется. Скачанный файл не сохраняется на диск, а сразу уходит на исполнение. Проверка текста на экране такую подмену не заметит.

Поддельный помощник вместо поддельной страницы

Вторая схема работает по той же логике, но выглядит иначе. Злоумышленник создаёт настраиваемую версию ChatGPT: задаёт имя, значок, скрытую инструкцию. На любой запрос такой помощник выдаёт сообщение о недоступности сервиса и ссылку. Ссылка ведёт на страницу, размещённую в бесплатном сервисе Google, - так проще не отличаться от обычных сайтов. У обнаруженного экземпляра насчитывалось больше десяти тысяч диалогов. Дальше посетитель получает файл на скачивание или поддельное окно с требованием вставить команду.

След тянется к кампаниям, о которых раньше писали Huntress и Island. Их связывают с 850 оплаченными объявлениями, 71 идентификатором рекламных кампаний Google и 26 разными страницами настраиваемых помощников. Приманки менялись: от сообщения о недоступности сервиса до совета перейти на резервный домен из-за высокой нагрузки. Менялись и полезные нагрузки. Одна цепочка заканчивалась программой удалённого доступа, спрятанной в звуковом файле. Другая - похожей программой внутри видеофайла. Общими остаются адреса страниц с подставной командой и узнаваемый шаблон запуска.

Обман на уровне выполнения

Исполнение подготовлено так же тщательно, как и приманка. В одном из случаев жертву просят вставить строку в окно запуска Windows. Скрипт стартует с отключённой проверкой политики выполнения, скачивает второй файл по незашифрованному каналу и тут же его запускает. Адрес сервера записан большим числом вместо привычных цифр с точками. Фильтры такое число за адрес не принимают, а человек не видит в строке ничего похожего на веб-ссылку. По оценке Microsoft, 96,3% подобных сценариев доходят до запуска вредоносного кода. На следующем этапе ставится подписанное приложение, через которое и загружается чужой код.

Наборы инструментов семейства ClickFix копируют друг у друга удачные находки, поэтому приёмы расходятся быстро. Визуальная подмена команд уже встречается в приманках под другие программы, в том числе под утилиту управления дисковым пространством Apple. Проверки, рассчитанные на чтение текста с экрана, перестают помогать. Для компаний это означает, что под угрозой оказываются не только рядовые сотрудники, но и разработчики, которым такие инструменты нужны по работе.

Основная часть атак приходит не по почте, а через браузер. Перехват на этом уровне срабатывает независимо от способа доставки страницы, будь то поисковая выдача или взломанный сайт. Он дополняет защиту на самих устройствах. Отдельная польза - машины, где такой защиты нет. Речь о личных ноутбуках сотрудников, технике подрядчиков, компьютерах Apple и рабочих станциях разработчиков.

Индикаторы компрометации

Комментарии: 0