Злоумышленник использует уязвимость в AI-инструменте для запуска вредоносного кода, сгенерированного искусственным интеллектом

security

Исследовательская группа Sysdig Threat Research Team (TRT) обнаружила атаку, в ходе которой злоумышленник воспользовался неправильно настроенной системой, работающей с Open WebUI - популярным приложением (95 тысяч звезд на GitHub), предоставляющим расширяемый интерфейс для работы с большими языковыми моделями (LLM). Получив доступ, атакующий внедрил вредоносный код и загрузил криптомайнеры. В ходе анализа инцидента эксперты выявили несколько ключевых моментов, включая использование AI-генерации для создания скриптов и сложные методы маскировки активности.

Описание

Open WebUI был ошибочно выложен в открытый доступ с административными правами и без аутентификации, что позволило злоумышленнику загрузить и выполнить вредоносный Python-скрипт через функционал Open WebUI Tools. Скрипт, вероятно, создан с помощью ИИ, отличался необычной структурой и обилием строковых переменных, что характерно для LLM. Эксперты подтвердили, что код частично был сгенерирован искусственным интеллектом, что ускорило процесс разработки атакующего инструмента.

Основная нагрузка скрипта включала загрузку криптомайнеров T-Rex и XMRig, использование Discord-вебхука для командования и управления (C2), а также применение редких методов скрытности, таких как processhider и argvhider. Последний модифицирует аргументы командной строки, делая их невидимыми для мониторинга через /proc/[pid]/cmdline.

В Windows-версии атаки злоумышленник дополнительно загружал Java-загрузчик, который запускал вредоносные JAR-файлы, включая инфостилеры для кражи учетных данных из браузеров и Discord. Один из DLL-модулей использовал методы обнаружения песочниц, такие как проверка виртуализации через IsProcessorFeaturePresent.

Несмотря на сложность атаки, Sysdig Secure успешно обнаружил активность злоумышленника благодаря встроенным правилам YARA и мониторингу загрузки подозрительных библиотек. Эксперты рекомендуют администраторам проверять настройки Open WebUI, ограничивать доступ к интерфейсу и использовать многофакторную аутентификацию для предотвращения подобных инцидентов.

Индикаторы компрометации

Комментарии: 0