Уязвимость Hugging Face может открыть хакерам путь к взлому ИИ-моделей

Уязвимость Hugging Face может открыть хакерам путь к взлому ИИ-моделей

Из-за новой уязвимости, которая обнаружена в инструменте Safetensors платформы для хостинга моделей машинного обучения Hugging Face, хакеры потенциально могут получить доступ к моделям искусственного интеллекта и инициировать атаки на цепочки поставок. Проблему обнаружили исследователи HiddenLayer, которые продемонстрировали, что процесс конвертирования моделей PyTorch в Safetensors  можно взломать.

Обнаруженная уязвимость позволяет потенциальным злоумышленникам вносить изменения в репозитории Hugging Face без авторизации. Они также могут влиять на функционирование конверсионного бота и извлекать токены SFConversionbot.

Исследователи отметили серьезность обнаруженной проблемы, так как она ставит экосистему Hugging Face под угрозу отравления данных и несет другие значительные риски. Способность атакующего удаленно выполнять код во время конверсии и не быть обнаруженным пользователем существенно увеличивает уровень угрозы для бесчисленных ИИ-моделей. 

похожие материалы

Стрелочка
Стрелочка
Каждое пятое предприятие планирует расширить применение технологии в кибербезопасности
Каждое пятое предприятие планирует расширить применение технологии в кибербезопасности

21% промышленных компаний в мире планируют расширить использование технологий искусственного интеллекта для решения задач кибербезопасности — на основе как внешних ИИ-сервисов, так и собственных разработок.

Трамп хочет закрыть глаза на опасности, создаваемые ИИ, из-за опасений отстать от Китая
Трамп хочет закрыть глаза на опасности, создаваемые ИИ, из-за опасений отстать от Китая

Президент США Дональд Трамп преуменьшил опасения, связанные с быстрыми темпами развития искусственного интеллекта, и выступил против замедления его разработки, подчеркнув приоритет американского лидерства над Китаем.