Умный дом теперь взламываются просто — достаточно просто сказать «спасибо»

Умный дом теперь взламываются просто — достаточно просто сказать «спасибо»

Одна встреча в Google Календаре — и у вас дома самопроизвольно включается свет, открываются жалюзи и запускается бойлер. Исследователи из Израиля показали, как через невинное календарное событие и пару фраз в чате с ИИ можно получить доступ к управлению физическими устройствами в «умном доме». В эпицентре — языковая модель Google Gemini и её скрытая уязвимость.

Вместо традиционного взлома с кодом и паролем, используется инъекция промптов в обход: вредоносная команда прячется не в тексте диалога, а в заголовке события. Gemini считывает её, когда пользователь, например, просит перечислить планы на неделю и благодарит за ответ. После фразы «спасибо» ИИ запускает цепочку команд: открывает окна, управляет освещением, запускает звонки и даже озвучивает заранее запрограммированные сообщения.

Всё это стало возможным благодаря функции отложенного автоматического вызова инструментов — ранее считавшейся исследовательским экспериментом, а теперь показавшей себя как реальная угроза. В ходе демонстрации Gemini без ведома владельца удалял события из календаря, озвучивал фразы вслух, открывал ссылки, читал письма и запускал видеообщение — и всё это выглядело как результат обычного запроса от пользователя.

В Google уверяют, что атаки не проводились вне лабораторных условий и уже работают над внедрением защиты: система подтверждений, фильтрация вредоносных промптов и усиление анализа поведения ИИ. Однако исследователи уверены — пока LLM продолжают встраиваться в дома, машины и телефоны, вопрос безопасности больше не про защиту данных — он про физическое вторжение в повседневность.

похожие материалы

Стрелочка
Стрелочка
97% слушателей не могут отличить музыку, созданную ИИ, от человеческой: исследование Deezer и Ipsos
97% слушателей не могут отличить музыку, созданную ИИ, от человеческой: исследование Deezer и Ipsos

Платформа Deezer совместно с исследовательской компанией Ipsos опубликовала результаты крупного международного опроса о восприятии музыки, созданной искусственным интеллектом.

Эксперты обнаружили сборник из миллиардов украденных данных
Эксперты обнаружили сборник из миллиардов украденных данных

Обнаружен один из крупнейших сборников украденных учётных данных: почти два миллиарда уникальных адресов электронной почты и 1,3 миллиарда паролей, — сообщает Трой Хант, создатель сервиса проверки паролей HIBP.

«Лаборатория Касперского» усиливает присутствие в Юго-Восточной Азии
«Лаборатория Касперского» усиливает присутствие в Юго-Восточной Азии

«Лаборатория Касперского» расширяет присутствие в Юго-Восточной Азии — компания назначила нового регионального директора, а также вывела работу во Вьетнаме на новый уровень, открыв офис в стране.