Исследователи нашли способ обмануть новую ИИ-функцию Windows

Исследователи нашли способ обмануть новую ИИ-функцию Windows

Новая экспериментальная функция Windows 11 под названием Copilot Actions, предназначенная для автоматизации рутинных задач, оказалась уязвимой к манипуляциям. При этом, Microsoft признает, что ИИ-агент можно обмануть с помощью скрытых команд внутри документов, изображений и других элементов интерфейса.

Copilot Actions работает внутри отдельной среды под названием Agent Workspace и использует выделенную учётную запись с доступом к основным пользовательским папкам - рабочему столу, загрузкам, документам и медиа-каталогам. Такой уровень доступа делает потенциальные последствия уязвимостей более серьёзными.

Главная угроза - так называемая cross-prompt injection. Если злоумышленник внедрит вредоносную скрытую команду в файл или изображение, ИИ-агент может выполнить её автоматически. Это способно привести к установке вредоносного ПО, передаче данных или другим нежелательным действиям без ведома пользователя.

Специалисты отмечают, что Microsoft заранее предупреждает об этих рисках и рекомендует включать новую функцию только тем, кто понимает технические ограничения и готов контролировать её работу.

похожие материалы

Стрелочка
Стрелочка
Разработчики мессенджера Max заявляют, что не отслеживают использование VPN
Разработчики мессенджера Max заявляют, что не отслеживают использование VPN

Исследователи обнаружили, что в Android-клиенте мессенджера Max есть встроенный модуль, который проверяет доступность серверов Telegram и WhatsApp*, определяя IP-адрес пользователя через сторонние сервисы и фиксируя использование VPN.

Новая схема обмана: мошенники начали выдавать себя за таможню и вымогать деньги за «посылки»
Новая схема обмана: мошенники начали выдавать себя за таможню и вымогать деньги за «посылки»

В России зафиксирована новая схема интернет-мошенничества: лоумышленники начали массово писать гражданам в мессенджерах, представляясь сотрудниками таможенных органов и требуя оплатить якобы обязательные таможенные платежи за посылки.

Хактивисты ударили по DHS: в сеть утекли контракты иммиграционной службы США и данные тысяч подрядчиков
Хактивисты ударили по DHS: в сеть утекли контракты иммиграционной службы США и данные тысяч подрядчиков

Хактивистская группа Department of Peace заявила о взломе систем Министерства внутренней безопасности США и публикации документов, связанных с контрактами ведомства и Иммиграционной и таможенной полиции США.