Специалисты из итальянского Icaro Lab и нескольких университетов показали, что простая поэтическая формулировка запросов может обойти механизмы безопасности современных больших языковых моделей (LLM). В исследовании утверждается, что такой метод работает даже в один шаг, без сложной настройки или многократного взаимодействия с моделью.
Авторы проанализировали 25 ведущих моделей, включая как проприетарные, так и открытые варианты, и показали, что преобразование опасных или вредоносных запросов в форму стихотворения существенно повышает шанс того, что модель выполнит их, несмотря на встроенные ограничения. В среднем поэтическая версия запросов приводила к выполнению нежелательных команд в около 62% случаев, тогда как традиционные подходы с обычным текстом демонстрировали значительно более низкие показатели эффективности.
Кроме того, исследование показало, что такой «поэтический jailbreak» работает во многих разных доменах - от запросов, связанных с кибербезопасностью, до потенциально опасных сценариев управления и манипуляций, и не зависит от конкретного механизма выравнивания модели.
В рамках эксперимента учёные также преобразовали более 1 200 стандартных опасных запросов в стихотворную форму, что увеличило их способность обойти защиту моделей до 18 раз по сравнению с исходным нейтральным текстом.
Результаты исследования подчёркивают, что современные системы безопасности ИИ могут быть уязвимы к простым стилистическим модификациям, а не только к сложным техникам обхода. Это открытие вызывает вопросы о фундаментальных ограничениях существующих методов выравнивания и тестирования безопасности моделей на случай неожиданных способов выражения опасного намерения.
Каширский городской суд вынес приговор участникам схемы мошенничества, связанной с программой Пушкинская карта.
Federal Bureau of Investigation объявило о поиске пользователей, которые могли пострадать от действий хакеров, взломавших аккаунты популярной игровой платформы Steam.
Эксперты по кибербезопасности из Microsoft сообщили о новой вредоносной кампании, в рамках которой злоумышленники распространяют поддельные VPN-клиенты через поисковую выдачу.
Редакция Cyber Media собрала ключевые события из мира кибербезопасности за эту неделю.
Аналитический центр Black Lotus Labs совместно с Министерством юстиции США провел операцию по нейтрализации прокси-сети SocksEscort, построенной на базе вредоносного ПО AVRecon.
Google выпустила внеплановое обновление стабильной ветки Chrome, закрывающее две критические уязвимости, которые, по данным компании, уже эксплуатируются в реальных кибератаках.
Исследователи Qualys Threat Research Unit обнаружили девять уязвимостей в модуле безопасности AppArmor, которые существовали с 2017 года и затрагивают более 12,6 млн систем по всему миру.
Более 200 представителей российских компаний ежегодно принимают участие в Security Summit — руководители ИБ, ИТ-директора и представители бизнеса.
Аналитики «Контур Фокуса» и «Контур Эгиды» представили исследование российского рынка информационной безопасности, охватывающее период с 1 марта 2024 по 1 марта 2026 года.
В 2026 году основным инструментом борьбы с технологическими подсказками на едином госэкзамене станут системы подавления сотовой связи.
