Исследователи компании Radware обнаружили опасную уязвимость под названием ShadowLeak, которая позволяет злоумышленникам с помощью специально подготовленного электронного письма незаметно похищать конфиденциальные данные из аккаунтов Gmail через агентскую функцию ChatGPT - «Deep Research».
Атака строится на использовании скрытых инструкций: в письме заключены неприметные промпты, маскированные как HTML-код: белый текст на белом фоне, шрифты миниатюрного размера и другие трюки, из-за которых пользователь не замечает, что происходит. Агент, получив такой запрос, может собрать личную информацию из других писем и отправить её на внешний сервер.
Проблема усугубляется тем, что утечка происходит не на устройстве пользователя, а внутри облачной инфраструктуры OpenAI. Это означает, что большинство локальных средств защиты, такие как антивирусы и защита почтового клиента просто не заметят атаку.
Deep Research - функция ChatGPT, представленная в феврале 2025 года, которая позволяет боту самостоятельно искать данные в сети для более точных ответов. Она и стала точкой входа для ShadowLeak. Хотя OpenAI уже получила отчёт об уязвимости и в августе внесла необходимые изменения, исследователи предупреждают: последствия таких угроз могут быть серьёзными, если аналогичные методы будут использованы для эксплойтов в других сервисах.