Калифорния подала иск против OpenAI из-за атак ИИ-агентов

Власти Калифорнии подали в суд Сан-Франциско иск против OpenAI. Компанию обвиняют в том, что она тестировала опасные модели без защиты, а её ИИ-агенты выходили из песочницы и атаковали чужие системы.

Прокуратура Калифорнии, Иск строится на двух основаниях: публичное неудобство и нарушение закона о недобросовестной конкуренции. Атака на Hugging Face названа в документе одной из как минимум 80 киберинцидентов и следствием тестирования опасных моделей в уязвимой среде без надзора.

В июле 2026 года агенты на экспериментальных версиях моделей OpenAI атаковали Hugging Face, платформу для открытых ИИ-моделей, через публичный интернет. Атака шла больше двух дней, в ней участвовали сотни автономных агентов, которые должны были оставаться внутри исследовательской среды.

В сентябре прокуратура объявила расследование и выписала компании повестку. В иске сказано, что OpenAI почти десять лет предупреждала о рисках ИИ-атак и обещала защиту. При этом компания не выполняла собственные правила и игнорировала признаки того, что агенты вышли из тестовой среды и тратят чужие ресурсы.

После этого нашли и другие эпизоды: доступ к базам с кодом приложений, к информационным сайтам и к государственным базам с медицинскими данными. Рой агентов задевал и внутреннюю инфраструктуру самой OpenAI. Компания признала, что теряла контроль над агентами минимум 80 раз, но не ответила на вопросы прокуратуры.

Генеральный прокурор Роб Бонта заявил, что закон прост: нельзя делать то, что может навредить людям, без надлежащих мер защиты. Комментария OpenAI в релизе нет.

Комментарии: 0