Команда исследователей угроз Sysdig опубликовала отчет о новой атаке, получившей название LLMjacking, в ходе которой использовались учетные данные облачных вычислений для атаки на сервисы больших языковых моделей (LLM).
Учетные данные, использованные в этой атаке, были получены из системы, работающей под управлением уязвимой версии Laravel (CVE-2021-3129). В то время как атаки на системы ИИ на базе LLM часто обсуждаются в контексте злоупотребления подсказками и изменения обучающих данных, эта атака была направлена на продажу доступа к LLM другим злоумышленникам, в то время как владелец облачного аккаунта оплачивал счет. Получив первоначальный доступ, злоумышленники выуживали учетные данные из облака и проникали в облачную среду, чтобы атаковать локальные модели LLM, размещенные у облачных провайдеров.
Исследователи Sysdig обнаружили признаки использования обратного прокси-сервера для LLM, что указывает на финансовую мотивацию или извлечение обучающих данных LLM. Злоумышленники стремились получить доступ к широкому спектру моделей LLM в различных сервисах, проверяя учетные данные для десяти различных сервисов искусственного интеллекта, чтобы определить их полезность. Легитимные запросы к LLM на этом этапе не выполнялись, а действия ограничивались проверкой возможностей и квот учетных данных, а также запросом настроек регистрации. Хостинговые модели LLM доступны через основных облачных провайдеров, но для их активации необходимо отправлять запросы, что представляет собой небольшое препятствие для злоумышленников.
Злоумышленники перемещались по облачной среде, отправляя, казалось бы, легитимные API-запросы, стратегически проверяя границы доступа, не вызывая немедленной тревоги. Например, намеренно задав недействительный параметр в вызове API InvokeModel, они подтвердили доступ к активным сервисам LLM. Кроме того, злоумышленники проявляли интерес к конфигурации сервиса, стремясь скрыть свою деятельность, избегая детальных наблюдений. В результате атак LLMjacking жертвы сталкиваются с повышенными расходами: потенциальные ежедневные расходы могут превышать 46 000 долларов, а злоумышленники могут нарушать бизнес-операции, максимально увеличивая лимиты квот и блокируя законное использование моделей.
Indicators of Compromise
IPv4
- 83.7.139.184
- 83.7.157.76
- 73.105.135.228
- 83.7.135.97
