Gemini обманули невидимыми символами: ИИ сам добавляет бэкдоры в код

Gemini обманули невидимыми символами: ИИ сам добавляет бэкдоры в код

Исследователи продемонстрировали, что новые модели Gemini уязвимы к атакам через скрытые Unicode Tag-символы. Эти символы не отображаются в интерфейсе, но считываются моделью как часть запроса. В результате ИИ начинает выполнять невидимые для пользователя команды, что превращает привычный тикет или комментарий в GitHub в инструмент скрытой компрометации кода.

Особенно уязвимы цепочки «агент — инструменты», где план действий формируется и выполняется автоматически. В одной из демонстраций в GitHub Issues использовался тикет с видимой просьбой добавить комментарий. Но вместе с ней шли незаметные строки, которые заставили агента Google Jules встроить в проект бэкдорную функцию, собрать двоичный файл и запустить его — всё это произошло без участия человека.

Опасность усиливается новой функцией назначения задач в GitHub через тегирование «jules». При использовании такого тега текст тикета целиком отправляется в агентскую воронку вместе с невидимыми подсказками. Пользователь не видит этих вставок в UI, но модель воспринимает их как обязательные инструкции. Эксперты подчёркивают: вероятность срабатывания не стопроцентная, однако развитие моделей начиная с релиза Gemini 2.5 заметно повышает эффективность таких атак.

Рекомендации сводятся к классическим принципам «zero trust» для ИИ: не давать агентам доступ к приватным репозиториям и секретам, не поручать им обработку тикетов из непроверенных источников, внимательно проверять автоматически сформированные планы и диффы кода перед слиянием.

Исследователи уведомили Google о проблеме ещё в феврале 2024 года, а о рисках для Jules — в мае 2025-го. Но пока исправлений на уровне модели и API не видно, и угроза сохраняется для всех интеграций Gemini. Невидимые команды делают атаку особенно коварной: пользователь уверен, что видит полный запрос, тогда как ИИ выполняет скрытые инструкции, способные внедрить бэкдоры или запустить произвольный код.

похожие материалы

Стрелочка
Стрелочка
Эксперт GSOC предупредил об использовании уязвимости в Windows Defender для атак на организации
Эксперт GSOC предупредил об использовании уязвимости в Windows Defender для атак на организации

Использование встроенного антивируса Windows Defender может нести серьёзные риски для корпоративных пользователей из-за обнаруженной уязвимости, позволяющей хакерам получать права администратора.

Формула обмана: BI.ZONE предупреждает о массовой фишинговой рассылке с обещанием легкого заработка
Формула обмана: BI.ZONE предупреждает о массовой фишинговой рассылке с обещанием легкого заработка

Эксперты BI ZONE Mail Security зафиксировали масштабную кибератаку на сотрудников российских компаний: только за последнюю неделю мая 2026 года злоумышленники разослали более тысячи фишинговых писем, спекулируя на теме пассивного дохода и инвестиций.

«У вас новое сообщение»: более половины россиян устают от постоянных уведомлений и нахождения в сети
«У вас новое сообщение»: более половины россиян устают от постоянных уведомлений и нахождения в сети

Подавляющее большинство опрошенных россиян согласны с тем, что цифровая среда упрощает их жизнь, а 90% уверены, что каждый человек должен уметь самостоятельно взаимодействовать с современными приложениями и сервисами.

«Ваша выплата выросла»: мошенники в Telegram предлагают деньги от имени портала «Работа России»
«Ваша выплата выросла»: мошенники в Telegram предлагают деньги от имени портала «Работа России»

Специалисты компании F6 выявили новую многоуровневую мошенническую схему в Telegram: злоумышленники используют страх граждан перед атаками беспилотников, чтобы в итоге втянуть их в фейковые розыгрыши и выманить деньги от имени государственного кадрового портала.