Исследователи кибербезопасности из SentinelLabs выявили новую категорию угроз - вредоносные программы, использующие большие языковые модели (LLM) для генерации вредоносного кода в реальном времени. Это создаёт серьёзные проблемы для традиционных методов обнаружения, поскольку зловредная логика не встроена напрямую в код, а динамически формируется с помощью внешних нейросетевых сервисов.
Описание
В ходе исследования, представленного на конференции LABScon 2025, эксперты обнаружили ранее неизвестные образцы, включая то, что может быть самым ранним известным на сегодня примером LLM-вредоноса, названного «MalTerminal». Аналитики использовали метод поиска по шаблонам встроенных API-ключей и определённых структур промптов (запросов к модели), что позволило выявить не только вредоносные программы, но и другие инструменты наступления, такие как агенты поиска людей, утилиты для тестирования на проникновение и средства внедрения уязвимостей в код.
Большие языковые модели всё чаще используются злоумышленниками, и это меняет ландшафт угроз. В отличие от традиционных вредоносных программ, где вредоносная логика жёстко прописана в коде, LLM-вредоносы генерируют её непосредственно во время выполнения, что затрудняет применение статических сигнатур и делает поведение таких программ непредсказуемым даже для динамического анализа.
Эксперты выделили несколько способов использования LLM злоумышленниками: в качестве приманки (например, поддельные ИИ-ассистенты), для атак на системы с интегрированными моделями, как инструменты поддержки (например, для создания фишинговых писем), а также как непосредственно встроенный компонент вредоносной нагрузки. Именно последняя категория представляет наибольший интерес для исследователей, поскольку создаёт уникальные проблемы для обнаружения.
Среди документально подтверждённых примеров - PromptLock, изначально представленный как первый ransomware (шифровальщик) с использованием ИИ, и LameHug (также известный как PROMPTSTEAL), связанный с деятельностью APT28. LameHug использует LLM для генерации и выполнения системных команд с целью сбора информации, при этом в различных образцах было обнаружено 284 уникальных ключа API HuggingFace.
Однако эти зависимости - API-ключи и жёстко прописанные промпты - одновременно являются и слабым местом таких программ. Если ключ API отзывается, вредоносная программа перестаёт работать. Это делает LLM-вредоносы уникальными инструментами: адаптируемыми, но в то же время уязвимыми.
Исследователи разработали методологию охоты за такими угрозами, основанную на поиске встроенных ключей API и промптов. Например, ключи таких провайдеров, как OpenAI и Anthropic, имеют уникальные префиксы, что позволяет эффективно сканировать большие массивы данных. Годовая ретроспективная проверка на VirusTotal выявила более 7000 образцов, содержащих свыше 6000 уникальных ключей, большинство из которых оказались не вредоносными.
Поиск по промптам также доказал свою эффективность. Поскольку каждое приложение с интеграцией LLM должно формировать запросы, жёстко прописанные промпты стали надёжным индикатором. Исследователи использовали лёгкий LLM-классификатор для оценки зловредности обнаруженных промптов, что позволило выявить новые образцы.
Среди новых открытий - набор инструментов под общим названием MalTerminal, который использует GPT-4 для динамической генерации кода шифровальщика или обратной оболочки. Анализ указывает на то, что образец был создан до ноября 2023 года, что делает его, возможно, самым ранним известным LLM-вредоносом.
Интеграция больших языковых моделей в вредоносные программы знаменует качественный сдвиг в методах работы злоумышленников. Хотя использование таких программ пока ограничено и носит в основном экспериментальный характер, текущая стадия развития даёт защитникам возможность изучить ошибки нападающих и адаптировать свои подходы. Ожидается, что противники будут совершенствовать свои стратегии, и необходимо дальнейшее исследование в этой области.
Индикаторы компрометации
SHA256
- 09bf891b7b35b2081d3ebca8de715da07a70151227ab55aec1da26eb769c006f
- 1458b6dc98a878f237bfb3c3f354ea6e12d76e340cefe55d6a1c9c7eb64c9aee
- 1612ab799df51a7f1169d3f47ea129356b42c8ad81286d05b0256f80c17d4089
- 165eaf8183f693f644a8a24d2ec138cd4f8d9fd040e8bafc1b021a0f973692dd
- 2755e1ec1e4c3c0cd94ebe43bd66391f05282b6020b2177ee3b939fdd33216f6
- 2eb18873273e157a7244bb165d53ea3637c76087eea84b0ab635d04417ffbe1b
- 3082156a26534377a8a8228f44620a5bb00440b37b0cf7666c63c542232260f2
- 384e8f3d300205546fb8c9b9224011b3b3cb71adc994180ff55e1e6416f65715
- 3afbb9fe6bab2cad83c52a3f1a12e0ce979fe260c55ab22a43c18035ff7d7f38
- 4c73717d933f6b53c40ed1b211143df8d011800897be1ceb5d4a2af39c9d4ccc
- 4ddbc14d8b6a301122c0ac6e22aef6340f45a3a6830bcdacf868c755a7162216
- 5ab16a59b12c7c5539d9e22a090ba6c7942fbc5ab8abbc5dffa6b6de6e0f2fc6
- 5f6bfdd430a23afdc518857dfff25a29d85ead441dfa0ee363f4e73f240c89f4
- 68ca559bf6654c7ca96c10abb4a011af1f4da0e6d28b43186d1d48d2f936684c
- 75b4ad99f33d1adbc0d71a9da937759e6e5788ad0f8a2c76a34690ef1c49ebf5
- 766c356d6a4b00078a0293460c5967764fcd788da8c1cd1df708695f3a15b777
- 7bbb06479a2e554e450beb2875ea19237068aa1055a4d56215f4e9a2317f8ce6
- 8013b23cb78407675f323d54b6b8dfb2a61fb40fb13309337f5b662dbd812a5d
- 854b559bae2ce8700edd75808267cfb5f60d61ff451f0cf8ec1d689334ac8d0b
- 943d3537730e41e0a6fe8048885a07ea2017847558a916f88c2c9afe32851fe6
- a30930dfb655aa39c571c163ada65ba4dec30600df3bf548cc48bedd0e841416
- a32a3751dfd4d7a0a66b7ecbd9bacb5087076377d486afdf05d3de3cb7555501
- a67465075c91bb15b81e1f898f2b773196d3711d8e1fb321a9d6647958be436b
- ae6ed1721d37477494f3f755c124d53a7dd3e24e98c20f3a1372f45cc8130989
- b2bda70318af89b9e82751eb852ece626e2928b94ac6af6e6c7031b3d016ebd2
- b3fcba809984eaffc5b88a1bcded28ac50e71965e61a66dd959792f7750b9e87
- b43e7d481c4fdc9217e17908f3a4efa351a1dab867ca902883205fe7d1aab5e7
- b49aa9efd41f82b34a7811a7894f0ebf04e1d9aab0b622e0083b78f54fe8b466
- bb2836148527744b11671347d73ca798aca9954c6875082f9e1176d7b52b720f
- bdb33bbb4ea11884b15f67e5c974136e6294aa87459cdc276ac2eea85b1deaa3
- c1a80983779d8408a9c303d403999a9aef8c2f0fe63f8b5ca658862f66f3db16
- c5ae843e1c7769803ca70a9d5b5574870f365fb139016134e5dd3cb1b1a65f5f
- c86a5fcefbf039a72bd8ad5dc70bcb67e9c005f40a7bacd2f76c793f85e9a061
- cf4d430d0760d59e2fa925792f9e2b62d335eaf4d664d02bff16dd1b522a462a
- d1b48715ace58ee3bfb7af34066491263b885bd865863032820dccfe184614ad
- d6af1c9f5ce407e53ec73c8e7187ed804fb4f80cf8dbd6722fc69e15e135db2e
- dc9f49044d16abfda299184af13aa88ab2c0fda9ca7999adcdbd44e3c037a8b1
- e24fe0dd0bf8d3943d9c4282f172746af6b0787539b371e6626bdb86605ccd70
- e88a7b9ad5d175383d466c5ad7ebd7683d60654d2fa2aca40e2c4eb9e955c927
