Новая экспериментальная функция Windows 11 под названием Copilot Actions, предназначенная для автоматизации рутинных задач, оказалась уязвимой к манипуляциям. При этом, Microsoft признает, что ИИ-агент можно обмануть с помощью скрытых команд внутри документов, изображений и других элементов интерфейса.
Copilot Actions работает внутри отдельной среды под названием Agent Workspace и использует выделенную учётную запись с доступом к основным пользовательским папкам - рабочему столу, загрузкам, документам и медиа-каталогам. Такой уровень доступа делает потенциальные последствия уязвимостей более серьёзными.
Главная угроза - так называемая cross-prompt injection. Если злоумышленник внедрит вредоносную скрытую команду в файл или изображение, ИИ-агент может выполнить её автоматически. Это способно привести к установке вредоносного ПО, передаче данных или другим нежелательным действиям без ведома пользователя.
Специалисты отмечают, что Microsoft заранее предупреждает об этих рисках и рекомендует включать новую функцию только тем, кто понимает технические ограничения и готов контролировать её работу.