Одна встреча в Google Календаре — и у вас дома самопроизвольно включается свет, открываются жалюзи и запускается бойлер. Исследователи из Израиля показали, как через невинное календарное событие и пару фраз в чате с ИИ можно получить доступ к управлению физическими устройствами в «умном доме». В эпицентре — языковая модель Google Gemini и её скрытая уязвимость.
Вместо традиционного взлома с кодом и паролем, используется инъекция промптов в обход: вредоносная команда прячется не в тексте диалога, а в заголовке события. Gemini считывает её, когда пользователь, например, просит перечислить планы на неделю и благодарит за ответ. После фразы «спасибо» ИИ запускает цепочку команд: открывает окна, управляет освещением, запускает звонки и даже озвучивает заранее запрограммированные сообщения.
Всё это стало возможным благодаря функции отложенного автоматического вызова инструментов — ранее считавшейся исследовательским экспериментом, а теперь показавшей себя как реальная угроза. В ходе демонстрации Gemini без ведома владельца удалял события из календаря, озвучивал фразы вслух, открывал ссылки, читал письма и запускал видеообщение — и всё это выглядело как результат обычного запроса от пользователя.
В Google уверяют, что атаки не проводились вне лабораторных условий и уже работают над внедрением защиты: система подтверждений, фильтрация вредоносных промптов и усиление анализа поведения ИИ. Однако исследователи уверены — пока LLM продолжают встраиваться в дома, машины и телефоны, вопрос безопасности больше не про защиту данных — он про физическое вторжение в повседневность.