Уязвимость в ChatGPT: как ИИ может слить ваши файлы

Уязвимость в ChatGPT:  как ИИ может слить ваши файлы

В ходе исследования экспертом по кибербезопасности из Mozilla, Марко Фигероа, были обнаружены не задокументированные возможности песочницы ChatGPT от OpenAI, которые могут влиять на конфиденциальность данных. При проведении тестов с использованием стандартных команд Linux в интерфейсе ChatGPT, Фигероа смог получить доступ к файловой системе хост-машины, что выявило потенциал для управления файлами и даже выполнения кода в изолированной среде.

Инцидент с «directory not found», который указывал на возможность доступа к директориям и файлам операционной системы, стал отправной точкой для дальнейшего исследования. Эксперименты показали, что система основана на дистрибутиве Debian и предоставляет расширенные возможности для работы с файлами, включая загрузку и исполнение скриптов.

Помимо технических аспектов, эксперт смог извлечь и анализировать внутренний плейбук ChatGPT, содержащий информацию о принципах взаимодействия с пользователем. Это открытие ставит под вопрос уровень безопасности и прозрачности работы ИИ, ведь доступ к таким данным может способствовать разработке стратегий обхода системных ограничений.

На фоне этих находок в OpenAI отреагировали, заявив, что обнаруженные Фигероа возможности не являются уязвимостью, а лишь частью функциональности песочницы, предназначенной для работы разработчиков. Однако такие заявления не снимают вопросов о потенциальных рисках злоупотреблений, особенно в контексте возможного появления эксплойтов типа «0-day», на что указал исследователь.

похожие материалы

Стрелочка
Стрелочка
Обзор кибератак и уязвимостей за прошедшую неделю: 10 - 14 ноября 2025
Обзор кибератак и уязвимостей за прошедшую неделю: 10 - 14 ноября 2025

Редакция Cyber Media отобрала ключевые события недели: на фоне роста кибершпионажа, усложнения фишинговых схем и усиления международного давления на преступные группировки цифровая среда становится всё более неустойчивой.

97% слушателей не могут отличить музыку, созданную ИИ, от человеческой: исследование Deezer и Ipsos
97% слушателей не могут отличить музыку, созданную ИИ, от человеческой: исследование Deezer и Ipsos

Платформа Deezer совместно с исследовательской компанией Ipsos опубликовала результаты крупного международного опроса о восприятии музыки, созданной искусственным интеллектом.

Эксперты обнаружили сборник из миллиардов украденных данных
Эксперты обнаружили сборник из миллиардов украденных данных

Обнаружен один из крупнейших сборников украденных учётных данных: почти два миллиарда уникальных адресов электронной почты и 1,3 миллиарда паролей, — сообщает Трой Хант, создатель сервиса проверки паролей HIBP.

«Лаборатория Касперского» усиливает присутствие в Юго-Восточной Азии
«Лаборатория Касперского» усиливает присутствие в Юго-Восточной Азии

«Лаборатория Касперского» расширяет присутствие в Юго-Восточной Азии — компания назначила нового регионального директора, а также вывела работу во Вьетнаме на новый уровень, открыв офис в стране.