Уязвимость Hugging Face может открыть хакерам путь к взлому ИИ-моделей

Из-за новой уязвимости, которая обнаружена в инструменте Safetensors платформы для хостинга моделей машинного обучения Hugging Face, хакеры потенциально могут получить доступ к моделям искусственного интеллекта и инициировать атаки на цепочки поставок. Проблему обнаружили исследователи HiddenLayer, которые продемонстрировали, что процесс конвертирования моделей PyTorch в Safetensors  можно взломать.

Обнаруженная уязвимость позволяет потенциальным злоумышленникам вносить изменения в репозитории Hugging Face без авторизации. Они также могут влиять на функционирование конверсионного бота и извлекать токены SFConversionbot.

Исследователи отметили серьезность обнаруженной проблемы, так как она ставит экосистему Hugging Face под угрозу отравления данных и несет другие значительные риски. Способность атакующего удаленно выполнять код во время конверсии и не быть обнаруженным пользователем существенно увеличивает уровень угрозы для бесчисленных ИИ-моделей.