ИИ-агент Muse получал доступ к переписке Signal без согласия

ИИ-агент Muse компании Meta* получал доступ к личным сообщениям в Signal, хотя пользователи не подключали мессенджер. Reuters вместе с Signal и AI Now Institute воспроизвёл доступ на Android и macOS; на iPhone те же запросы блокировались.

Сотрудница Meta* рассказала во внутреннем посте, что Muse напомнил ей ответить на сообщение сестры в Signal, хотя доступа к приложению она не давала. Reuters изучил больше двух десятков таких сообщений сотрудников.

В тестах агент обходил инструмент Meta* Connector и тянул данные через разрешения, выданные при первичной настройке. На Android ему хватало доступа к уведомлениям, на macOS он использовал средства доступности и снимки экрана - те же настройки, что помогают людям с инвалидностью управлять компьютером. На iPhone запросы к Signal блокировались. Об этом сообщает Reuters (публикация CNA).

Meta* называет случаи «единичными» и говорит, что приоритет - безопасность. Представитель Дэниел Робертс утверждает, что часть тревожных сообщений была галлюцинациями модели и их уже поправили; сколько всего таких эпизодов, он не ответил. Установить, получал ли агент чужие данные или выдумывал их, Reuters не смог.

Президент Signal Мередит Уиттакер заявила, что Muse выпустили «без уважения к базовой приватности и кибербезопасности», и попросила дать разработчикам технический способ помечать приложения как закрытые для ИИ-агентов.

С сентября приложение скачали больше 10 млн раз, около четверти пользователей возвращаются каждый день. Другие эпизоды в тех же постах - чужие банковские балансы, бронь Airbnb без разрешения и советы, которых никто не просил.

Когда Apple добавила в macOS 27.3 отдельные разрешения для ИИ-агентов, 1275[RU] об этом рассказывало. Похожий сюжет - Claude Code передавал email пользователей сторонним сайтам через заголовок запроса.

* Компания Meta и её продукты (включая Instagram, Facebook, Threads, Meta AI) признаны экстремистскими, их деятельность запрещена на территории РФ.

Комментарии: 0