В России появилась первая дорожная карта по ИИ для специалистов по кибербезопасности

03.05.2024

Нейросети – это одна из главных тем последних лет. Они уже глубоко интегрированы во многие бизнес-процессы и повседневную жизнь многих людей – при этом вопрос их безопасности изучен достаточно мало. Созданный исследователями проект «AI/ML/LLM security study map» призван помочь ИБ-специалистам повысить свои знания в области AISecurity.

Артем Семенов

Автор блога PWN AI

Ландшафт угроз в сфере AISecurity динамично растет. В этой карте мы с контрибуторами постарались рассказать о всяких угрозах, которые сейчас существуют в природе. Буквально каждый человек может ознакомиться не только с тем, как называется та или иная угроза, но и посмотреть какими инструментами она может быть реализована.

Карта предлагает специалистам по информационной безопасности не только путь по погружению в безопасность нейросетей, но и большое количество дополнительных материалов:

ссылки на полезные инструменты;
профильные материалы с новых конференций;
нормативные материалы по разным странам, включая Россию;
и многое другое.

Артем Семенов

Автор блога PWN AI

Некоторым кажется, что преступности в сфере AISecurity не существует. Но мы уже слышим о случаях распространения бекдоров в opensource моделях, а также инцидентов, связанных с RAY (платформа для MlOps). Всё это нужно защищать. С каждым годом проблема будет нарастать, и нам уже нужно быть готовым к защите AI-компонентов в инфраструктуре компаний.

Исследователи отмечают, что текущая редакция карты – не окончательная, и любой желающий может поделиться с сообществом своими наработками или находками по теме AISecurity.

Подробнее узнать о карте можно на Github-репозитории проекта «AI/ML/LLM security study map».

Карта безопасности AI/LLM/ML