Исследователи показали, как одна вредоносная страница захватывает ИИ-агента Muse компании Meta* и без запроса согласия выносит переписку и сохранённые воспоминания. Дальше цепочка доходит до хранилища учётных данных в облачной машине пользователя.
Начало - в браузере Chromium, который Muse использует для PDF и документов: если попросить агента экспортировать подконтрольную злоумышленнику страницу, в его runtime-контейнере выполняется код.
Дальше - слабости Sentinel, слоя, который проверяет исходящие запросы: переписку и воспоминания удалось отправить на внешний сервер без запроса подтверждения. Менять их тоже получилось, то есть страдает не только конфиденциальность, но и целостность. Об этом сообщает NebuSec.
Своим фреймворком автоматической генерации эксплойтов NebuSec сделала эксплойты ядра Linux, вышла из контейнера и получила root в пользовательской виртуальной машине. Оттуда открылись постоянное хранилище, защищённое хранилище учётных данных и сам Sentinel, а исходящий трафик больше не проходил его проверку.
Границы демонстрации: работа лабораторная, против реальных пользователей её не применяли, а компрометация осталась в облачной машине одного пользователя. До гипервизора и окружений других арендаторов исследователи не дошли. О находках сообщили команде Muse, и к публикации все описанные эксплойты закрыли.
Это другая линия, чем история с Signal: там агент Muse читал сообщения через разрешения Android и средства доступности macOS, о чём 1275[RU] писало в новости про доступ Muse к переписке Signal.
Вывод NebuSec: защиты работали как задумано, но каждая прикрывала свой участок, и цепочка прошла мимо всех. Изолировать агента мало - проверять надо, что будет, если часть системы уже скомпрометирована.
* Компания Meta и её продукты (включая Instagram, Facebook, Threads, Meta AI) признаны экстремистскими, их деятельность запрещена на территории РФ.