Check Point нашла скрытый канал утечки данных из ChatGPT

Check Point нашла скрытый канал утечки данных из ChatGPT

Исследователи Check Point Research заявили, что обнаружили способ скрытой передачи данных из среды выполнения кода в ChatGPT наружу через DNS. По их данным, уязвимость позволяла с помощью одного вредоносного промпта превратить обычный диалог в канал утечки, через который могли уходить сообщения пользователя, данные из загруженных файлов и результаты обработки этих данных моделью.

В отчете говорится, что проблема затрагивала изолированную среду code execution, где обычные исходящие сетевые подключения должны быть заблокированы. Однако исследователи утверждают, что DNS-разрешение оставалось доступным и могло использоваться как обходной канал для передачи информации на внешний сервер без предупреждений и без запроса подтверждения у пользователя.

Check Point также показала более опасный сценарий с кастомными GPT. По версии исследователей, злоумышленник мог встроить такую логику в собственный GPT и получать чувствительные сведения из пользовательских диалогов, хотя официально создатели GPT не должны видеть содержимое отдельных сессий. В качестве демонстрации компания описала PoC с GPT в роли «личного врача», который анализировал медицинский PDF и при этом передавал на внешний сервер личные данные и выводы модели.

Отдельно исследователи заявили, что тот же скрытый канал можно было использовать не только для утечки данных, но и для удаленного выполнения команд внутри Linux-среды, которую ChatGPT использует для анализа данных и запуска кода. Это, по их оценке, фактически открывало возможность удаленного shell-доступа в рантайм в обход обычного пользовательского интерфейса.

По данным Check Point, OpenAI была уведомлена об уязвимости, подтвердила проблему и полностью развернула исправление. История показывает, что главная зона риска в AI-сервисах теперь находится не только в моделях, но и в скрытых инфраструктурных слоях, через которые данные могут уйти наружу без очевидных признаков для пользователя.

похожие материалы

Стрелочка
Стрелочка
В ЕАЭС 15 октября провели первую пилотную перевозку с электронной накладной eCMR
В ЕАЭС 15 октября провели первую пилотную перевозку с электронной накладной eCMR

Эксперимент по внедрению электронных международных транспортных накладных (eCMR) в ЕАЭС выходит на новый этап: первой реальной пилотной перевозке с использованием цифрового документа дан старт сегодня, 15 октября, по маршруту Казахстан — Россия.

В криптокошельки Ledger внедряли шпионские чипы: компания остановила продажи в Азии после многомиллионных хищений
В криптокошельки Ledger внедряли шпионские чипы: компания остановила продажи в Азии после многомиллионных хищений

Производитель аппаратных криптокошельков Ledger приостановил продажи через авторизованных посредников в Юго-Восточной Азии и Гонконге после обнаружения модифицированных устройств со скрытыми электронными компонентами.