В последние месяцы значительно участились атаки на инфраструктуру генеративного искусственного интеллекта (genAI), в частности на такие сервисы, как AWS Bedrock. Эти атаки в основном направлены на открытые ключи доступа, которые злоумышленники используют для захвата инфраструктуры для своих собственных приложений Large Language Model (LLM). Недавняя кампания, запечатленная Permiso, показала, что злоумышленники использовали взломанную инфраструктуру для размещения ИИ-сервиса сексуальных ролевых игр, где пользователи общались с персонажами ИИ.
Ролевые игры варьировались от общего контента для взрослых до более мрачных тем, включая материалы о сексуальной эксплуатации детей (CSEM). Злоумышленники перехватили взаимодействие AWS Bedrock с такими моделями, как Anthropic's Claude, и использовали эти инструменты, чтобы избежать оплаты вычислительных затрат.
LLM jacking (или LLM hijacking) - это акт кражи доступа к LLM-инфраструктуре организации. Основная причина этого - запуск неавторизованных приложений, например чат-ботов, с перекладыванием ресурсного и финансового бремени на жертву. Процесс перехвата включает в себя проверку доступности моделей, запрос доступа через различные вызовы API и вызов (или побуждение) моделей к генерации ответов. Эти приемы позволяют злоумышленникам незаметно получить контроль над ценными ресурсами ИИ.
В данном случае Permiso обнаружила более 75 000 подсказок, в основном сексуального содержания, которые выполнялись через взломанную инфраструктуру LLM. Хотя конкретный сервис злоумышленника пока не идентифицирован Permiso, существует очевидный спрос на услуги сексуальных ролевых игр с использованием ИИ, что заставляет злоумышленников использовать скомпрометированные ключи доступа для получения прибыли.
Indicators of Compromise
IPv4
- 103.136.147.217
- 103.136.147.219
- 103.216.220.23
- 103.216.220.43
- 104.28.202.29
- 104.28.202.30
- 104.28.219.72
- 104.28.232.2
- 119.94.179.194
- 122.53.224.172
- 124.104.213.208
- 124.83.121.30
- 138.199.43.100
- 143.244.47.70
- 143.244.47.87
- 146.70.165.189
- 146.70.165.216
- 146.70.166.233
- 146.70.168.125
- 146.70.168.152
- 146.70.168.253
- 146.70.171.152
- 146.70.185.24
- 146.70.185.61
- 148.251.255.77
- 156.146.54.85
- 173.205.85.53
- 173.205.93.11
- 180.191.160.171
- 180.191.161.165
- 180.191.161.78
- 180.191.161.87
- 180.191.162.211
- 180.191.163.185
- 180.191.163.242
- 180.191.163.34
- 180.191.165.245
- 180.191.167.19
- 180.191.167.237
- 180.191.167.87
- 180.191.172.143
- 180.191.172.17
- 180.191.172.58
- 180.191.173.122
- 194.48.248.108
- 198.44.136.117
- 198.44.136.222
- 3.223.72.184
- 31.171.154.59
- 34.211.200.85
- 44.227.217.144
- 45.85.144.253
- 45.87.213.230