Новая опция ChatGPT понравится хакерам

Новая опция интерпретации кода на Python, которая недавно появилась в ChatGPT Plus, может больше всего понравиться хакерам. Как уточняет Tom's Hardware, несмотря на удобство, у нового инструмента есть огромная дыра в безопасности.

Особенность Code Interpreter от ChatGPT в том, что он не просто составляет код на Python, но и воспроизводит его в песочнице. Однако она открыта для прямых инъекционных атак, позволяющих злоумышленнику извлекать необходимые данные.

Уязвимость заключается в возможности для потенциального злоумышленника разместить ссылку на внешнюю страницу в окне чата. Далее содержимое этой страницы интерпретируется так же, как команды, введенные пользователем.

Промт содержит инструкцию для ChatGPT извлечь все файлы из папки /mnt/data. и загрузить их по указанной ссылке. После этого владелец вредоносного сайта получает возможность ознакомиться с содержимым личных папок пользователя.