2SDnjc1JCzF
Киберэксперт Овчинников: для систем класса ИИ появилась своя социальная инженерия
Хакеры нашли способ вводить ИИ в заблуждение и использовать его в зловредных операциях.
«Это достигается за счет уязвимости к оперативным инъекциям (prompt injection). Такой вид атаки проводимой хакером заключается в том, что производится активное влияние на поведение ИИ за счет простых команд, вводимых на английском языке в тексте запроса. Данный факт еще раз подчеркивает необходимость постоянного обеспечения ИБ для ИИ в процессе всего жизненного цикла системы, а также то, что ИИ в будущем будет активно использоваться в качестве рабочего инструмента как для «белых», так и для «черных» хакеров. В итоге – для систем класса ИИ появилась своя социальная инженерия», - заявил главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников.
Ранее Иоганн Ребергер, эксперт в области безопасности данных, сумел модифицировать ChatGPT таким образом, чтобы он мог выполнить ряд потенциально опасных команд.
Теги:
похожие материалы
Обзор кибератак и уязвимостей за прошедшую неделю: 5-9 октября 2026 года
Редакция Кибер Медиа собрала главные события недели в сфере информационной безопасности.
НИУ ВШЭ вошёл в десятку лучших мировых разработчиков онлайн-курсов
Национальный исследовательский университет «Высшая школа экономики» (НИУ ВШЭ) стал единственным российским вузом, получившим награду международной премии GMA Awards 2026.
В России сокращается ассортимент ноутбуков Apple, HP и Dell из-за новых правил сертификации
В российских магазинах сокращается ассортимент ноутбуков зарубежных брендов.
Вымогатели парализовали облако SoftBank: пострадали 495 компаний и госструктур
Крупная кибератака на японского облачного провайдера IDC Frontier, принадлежащего SoftBank, нарушила работу 495 компаний и органов власти.
В Москве пройдет конференция TECH WEEK 2026 о цифровой трансформации и искусственном интеллекте
18–19 ноября 2026 года в Москве в шестнадцатый раз пройдет конференция TECH WEEK — деловая конференция, посвященная практическому применению искусственного интеллекта и цифровых технологий в бизнесе.
«Группа Астра» и «Мастер Лаб» обеспечат полную совместимость своего ПО и помогут с цифровизацией здравоохранения
На XXVII международном конгрессе «Информационные технологии в медицине» «Группа Астра» и разработчик МИС для здравоохранения «Мастер Лаб» заключили соглашение о партнерстве в сфере ИТ.
Число критичных киберинцидентов в российском ретейле взлетело на 60%
За первое полугодие 2026 года число инцидентов высокой критичности в российском ретейле выросло на 60% по сравнению с аналогичным периодом 2025 года*.
Обновления Indeed MFA: больше сценариев аутентификации и гибкости в управлении доступом
Компания «Индид» представила ряд значимых функциональных улучшений сервиса многофакторной аутентификации Indeed MFA.
Энергия точных ориентиров: «Knomary: Целеполагание» завоевала серебро в отраслевом рейтинге ECM-Journal
Компания Knomary (входит в «Группу Астра») сообщает о том, что независимый экспертный портал ECM-Journal опубликовал масштабный обзор российских платформ управления по целям 2026 года, в котором система «Knomary: Целеполагание» заняла второе место.
TP-Link оказался под ударом сразу четырех штатов США - роутеры обвиняют в проблемах с безопасностью и связях с Китаем
Сразу четыре американских штата - Флорида, Айова, Небраска и Монтана - подали иски против TP-Link, обвинив производителя в том, что он вводил покупателей в заблуждение относительно безопасности своих роутеров и масштабов связей с Китаем.