1. Главная
  2. Новости
  3. Исследователи нашли способ обмануть новую ИИ-функцию Windows

Исследователи нашли способ обмануть новую ИИ-функцию Windows

Исследователи нашли способ обмануть новую ИИ-функцию Windows

Новая экспериментальная функция Windows 11 под названием Copilot Actions, предназначенная для автоматизации рутинных задач, оказалась уязвимой к манипуляциям. При этом, Microsoft признает, что ИИ-агент можно обмануть с помощью скрытых команд внутри документов, изображений и других элементов интерфейса.

Copilot Actions работает внутри отдельной среды под названием Agent Workspace и использует выделенную учётную запись с доступом к основным пользовательским папкам - рабочему столу, загрузкам, документам и медиа-каталогам. Такой уровень доступа делает потенциальные последствия уязвимостей более серьёзными.

Главная угроза - так называемая cross-prompt injection. Если злоумышленник внедрит вредоносную скрытую команду в файл или изображение, ИИ-агент может выполнить её автоматически. Это способно привести к установке вредоносного ПО, передаче данных или другим нежелательным действиям без ведома пользователя.

Специалисты отмечают, что Microsoft заранее предупреждает об этих рисках и рекомендует включать новую функцию только тем, кто понимает технические ограничения и готов контролировать её работу.

РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
«Газинформсервис» и Security Vision проведут вебинар о сертифицированной среде на базе СУБД Jatoba
«Газинформсервис» и Security Vision проведут вебинар о сертифицированной среде на базе СУБД Jatoba

Компании «Газинформсервис» Security Vision проведут совместный вебинар, в рамках которого эксперты расскажут о возможностях использования сертифицированной отечественной СУБД «Ятоба» в составе решений Security Vision.

подробнее Стрелочка