Исследователи Check Point Research заявили, что обнаружили способ скрытой передачи данных из среды выполнения кода в ChatGPT наружу через DNS. По их данным, уязвимость позволяла с помощью одного вредоносного промпта превратить обычный диалог в канал утечки, через который могли уходить сообщения пользователя, данные из загруженных файлов и результаты обработки этих данных моделью.
В отчете говорится, что проблема затрагивала изолированную среду code execution, где обычные исходящие сетевые подключения должны быть заблокированы. Однако исследователи утверждают, что DNS-разрешение оставалось доступным и могло использоваться как обходной канал для передачи информации на внешний сервер без предупреждений и без запроса подтверждения у пользователя.
Check Point также показала более опасный сценарий с кастомными GPT. По версии исследователей, злоумышленник мог встроить такую логику в собственный GPT и получать чувствительные сведения из пользовательских диалогов, хотя официально создатели GPT не должны видеть содержимое отдельных сессий. В качестве демонстрации компания описала PoC с GPT в роли «личного врача», который анализировал медицинский PDF и при этом передавал на внешний сервер личные данные и выводы модели.
Отдельно исследователи заявили, что тот же скрытый канал можно было использовать не только для утечки данных, но и для удаленного выполнения команд внутри Linux-среды, которую ChatGPT использует для анализа данных и запуска кода. Это, по их оценке, фактически открывало возможность удаленного shell-доступа в рантайм в обход обычного пользовательского интерфейса.
По данным Check Point, OpenAI была уведомлена об уязвимости, подтвердила проблему и полностью развернула исправление. История показывает, что главная зона риска в AI-сервисах теперь находится не только в моделях, но и в скрытых инфраструктурных слоях, через которые данные могут уйти наружу без очевидных признаков для пользователя.
Семь из десяти успешных целенаправленных атак на малый и средний бизнес нарушили основную деятельности бизнеса.
Российские власти предложили смягчить требования к совместимости отечественного программного обеспечения с операционными системами.
Российские власти обсуждали возможность использования искусственного интеллекта для выявления и блокировки VPN-сервисов.
Мотивацию кластера Insolent Werewolf связывали преимущественно с хактивизмом, однако свежие данные указывают на кибершпионаж.
26-27 ноября в Екатеринбурге, в кампусе ИРИТ-РТФ УрФУ «Новокольцовский», пройдет Уральский фестиваль кибербезопасности.
Технологии развиваются, а вместе с ними растут и угрозы.
Эксперимент по внедрению электронных международных транспортных накладных (eCMR) в ЕАЭС выходит на новый этап: первой реальной пилотной перевозке с использованием цифрового документа дан старт сегодня, 15 октября, по маршруту Казахстан — Россия.
Производитель аппаратных криптокошельков Ledger приостановил продажи через авторизованных посредников в Юго-Восточной Азии и Гонконге после обнаружения модифицированных устройств со скрытыми электронными компонентами.
Разработчики Telegram готовят новую функцию, которая может существенно изменить привычный способ просмотра публикаций в мессенджере.
«Яндекс» начал восстанавливать доступ к рекламным сервисам, пострадавшим после серии атак беспилотников на дата-центры компании.
Мы используем файлы cookie и рекомендательные технологии. Пользуясь сайтом, вы соглашаетесь с Политикой обработки персональных данных