Фишинг нового уровня: хакеры атакуют сразу и людей, и искусственный интеллект

Фишинг нового уровня: хакеры атакуют сразу и людей, и искусственный интеллект

Фишинговые кампании вышли на новый уровень — теперь мишенью становятся не только пользователи, но и защитные системы на базе искусственного интеллекта. Исследователи зафиксировали рассылку писем, где скрытые инструкции встроены прямо в тело сообщения и рассчитаны на то, чтобы сбить с толку AI-инструменты, используемые в центрах мониторинга безопасности (SOC). Для человека письмо выглядит стандартным уведомлением о скором истечении пароля, но для машин оно превращается в своеобразный «промпт», отвлекающий внимание от очевидных признаков фишинга.

Внутри сообщения содержался фрагмент текста, написанный в стиле запросов к LLM-моделям, вроде «генерация 10 перспектив» или «оптимизированный синтез». Если такие алгоритмы интегрированы в автоматические процессы анализа угроз, они могут «увлечься» выполнением ложных инструкций и пропустить критические индикаторы атаки. Это создаёт опасность не только задержки реакции SOC, но и появления ложных отчётов в аналитических системах.

Цепочка атаки также заслуживает внимания: письма рассылались через легитимный сервис SendGrid, что позволяло им проходить SPF и DKIM-проверки. Дополнительную достоверность придавало использование доменов Microsoft Dynamics для перенаправления, а на финальной странице жертву встречала фальшивая форма входа Gmail. Там происходил сбор паролей, а также дополнительная слежка за IP-адресом и геолокацией жертвы. В коде обнаружили шифрование с помощью AES-CBC и признаки тщательно подготовленной инфраструктуры.

Главная особенность этой кампании — «двойной слой» атаки: человек теряет пароли, а искусственный интеллект — способность классифицировать угрозы. Эксперты называют это первым шагом к эпохе «многоуровневого фишинга», где злоумышленники атакуют сразу две стороны обороны: пользователя и его цифрового защитника. Теперь компании вынуждены учитывать новые сценарии: защищать людей от социальной инженерии и параллельно обучать ИИ устойчивости к внедрённым промптам.

РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
Экстренный патч Chrome закрыл две 0-day уязвимости: обход песочницы и крах Skia уже используют в атаках
Экстренный патч Chrome закрыл две 0-day уязвимости: обход песочницы и крах Skia уже используют в атаках

Google выпустила внеплановое обновление стабильной ветки Chrome, закрывающее две критические уязвимости, которые, по данным компании, уже эксплуатируются в реальных кибератаках.

Анализ рынка информационной безопасности в России: темпы прироста новых игроков снижаются, число ликвидированных компаний растет
Анализ рынка информационной безопасности в России: темпы прироста новых игроков снижаются, число ликвидированных компаний растет

Аналитики «Контур Фокуса» и «Контур Эгиды» представили исследование российского рынка информационной безопасности, охватывающее период с 1 марта 2024 по 1 марта 2026 года.

«Лаборатория Касперского» усилила безопасность контейнерных приложений СберФакторинг с помощью Kaspersky Container Security
«Лаборатория Касперского» усилила безопасность контейнерных приложений СберФакторинг с помощью Kaspersky Container Security

СберФакторинг, дочерняя компания Сбера, внедрила Kaspersky Container Security для повышения уровня защиты контейнерных приложений на всех этапах их жизненного цикла — от разработки до эксплуатации.