Eclypsium показала атаку на ИИ-сервер: через скомпрометированный DPU атакующий перезаписывает веса модели прямо в памяти GPU, пока идёт инференс. Файл модели, его хеш и подпись остаются валидными, а ответы модели меняются.
Цепочка начинается с доступа к интерфейсам внеполосного управления BMC или DPU. Дальше идут внутренняя разведка, сбор модели и весов через прямой доступ к памяти, запись изменённых тензоров и, при желании, возврат исходных значений, чтобы не оставить следов.
В эксперименте на системе NVIDIA GH200 сканирование памяти шло примерно на 3 ГБ/с, а точечные изменения обычно занимали меньше минуты. После записи исследователи читали те же адреса и подтверждали, что значения изменились.
Проверки целостности смотрят не туда. Хеш и подпись сверяются при чтении файла с диска, а тензор, который лежит в памяти GPU во время работы, заново не измеряется: в отчёте это названо проверкой при загрузке, а не при использовании. Об этом сообщает Eclypsium.
Для записи нужны права на DPU или BMC и разрешающая конфигурация изоляции: IOMMU, PCIe ACS и ATS. DPU работает, когда хост выключен, переживает переустановку ОС и не подчиняется изоляции гостя - поэтому он вне обычной границы доверия.
В демонстрации подмену показывали на модели для кода: изменённая модель может ослабить проверку аутентификации, отключить проверку сертификатов, подтянуть небезопасную зависимость или оставить уязвимость в сгенерированном коде. В отчёте сказано, что так же можно повлиять на решения в бизнесе и личные решения.
Отдельной CVE для показанной цепочки в отчёте нет. Защита, которую предлагают авторы: проверять настройки IOMMU и PCIe, вести DPU и BMC как отдельные активы с прошивками и владельцем, следить за аттестацией и конфигурацией, а не только за файлом модели.
Ранее 1275[RU] писало про бэкдоры в LoRA-моделях и про то, как Mior и Skyfall вытаскивают секреты из защищённых ВМ.