1. Главная
  2. Новости
  3. Gaslight атакует AI-инструменты анализа вредоносов через prompt injection

Gaslight атакует AI-инструменты анализа вредоносов через prompt injection

Gaslight атакует AI-инструменты анализа вредоносов через prompt injection

Исследователи SentinelOne обнаружили ранее неизвестный macOS-вредонос Gaslight, написанный на Rust. Это имплант и инфостилер, который не только крадет данные с зараженного устройства, но и пытается мешать AI-инструментам, используемым аналитиками для разбора вредоносного ПО.

Главная особенность Gaslight - встроенный prompt injection. Внутри образца размещен блок из 38 поддельных «системных» сообщений, оформленных так, чтобы сбить с толку LLM-инструменты для триажа и реверс-инжиниринга. Такие сообщения имитируют ошибки вроде истечения токена, нехватки памяти, переполнения диска или сбоя анализа. Цель - заставить AI-агента остановить, сократить или отказаться от анализа файла.

SentinelOne связывает Gaslight с активностью, ориентированной на КНДР. Вредонос использует Telegram Bot API как канал управления: оператор может отправлять команды через polling-механизм, а результаты выполнения и похищенные файлы возвращаются через тот же канал. Если две копии вредоноса одновременно используют один и тот же bot token, Telegram выдает ошибку Conflict, и второй экземпляр завершает работу.

Gaslight поддерживает интерактивную оболочку и несколько команд: идентификацию импланта, выполнение shell-команд, завершение процессов, загрузку файлов оператору и остановку работы. Для закрепления на устройстве используется LaunchAgent с маскировкой под системный сервис Apple - com.apple.system.services.activity.

Вредонос также содержит Python-стилер, который собирает историю команд Terminal, список установленных приложений, данные о процессах, сведения о системе, данные из macOS Keychain и информацию из браузеров Chrome, Brave, Firefox и Safari. Собранные данные архивируются и отправляются через Telegram.

Отдельный элемент защиты операторов - саморедактирование Telegram bot token. Gaslight скрывает токен в собственном runtime-выводе, чтобы он не попал в логи, crash-артефакты или результаты анализа. Это усложняет защитникам восстановление управляющей инфраструктуры по одному образцу.

Исследователи считают Gaslight важным сигналом для индустрии: злоумышленники начинают атаковать не только песочницы и антивирусы, но и AI-пайплайны, которые помогают аналитикам разбирать вредоносный код. Разработчикам таких систем рекомендуют считать содержимое анализируемых файлов недоверенным вводом и не позволять ему превращаться в инструкции для модели.

РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
«РДВ Технолоджи» и «Газинформсервис» успешно протестировали СДЗ SafeNode System Loader на базе сервера «Алтай»
«РДВ Технолоджи» и «Газинформсервис» успешно протестировали СДЗ SafeNode System Loader на базе сервера «Алтай»

Компания «РДВ Технолоджи» (российский бренд RDW Computers) подтвердила технологическую совместимость сервера RDW Алтай А212Т со средством доверенной загрузки (СДЗ) SafeNode System Loader российского разработчика программно-аппаратных средств обеспечения информационной безопасности «Газинформсервис».

подробнее Стрелочка
Миграция домена на 300 тыс. пользователей в ALD Pro укладывается в одно ночное окно обслуживания
Миграция домена на 300 тыс. пользователей в ALD Pro укладывается в одно ночное окно обслуживания

«Группа Астра» совместно с Pragmatic Tools провела нагрузочное тестирование миграции инфраструктуры Microsoft Active Directory в службу каталога ALD Pro на стенде крупнейшего российского ИТ-интегратора.

подробнее Стрелочка