Киберэксперт Овчинников: для систем класса ИИ появилась своя социальная инженерия
Хакеры нашли способ вводить ИИ в заблуждение и использовать его в зловредных операциях.
«Это достигается за счет уязвимости к оперативным инъекциям (prompt injection). Такой вид атаки проводимой хакером заключается в том, что производится активное влияние на поведение ИИ за счет простых команд, вводимых на английском языке в тексте запроса. Данный факт еще раз подчеркивает необходимость постоянного обеспечения ИБ для ИИ в процессе всего жизненного цикла системы, а также то, что ИИ в будущем будет активно использоваться в качестве рабочего инструмента как для «белых», так и для «черных» хакеров. В итоге – для систем класса ИИ появилась своя социальная инженерия», - заявил главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников.
Ранее Иоганн Ребергер, эксперт в области безопасности данных, сумел модифицировать ChatGPT таким образом, чтобы он мог выполнить ряд потенциально опасных команд.
Теги:
похожие материалы
Утечка данных пользователей Substack затронула авторов и подписчиков
В начале февраля стало известно об утечке данных пользователей платформы Substack.
Microsoft предупредила о росте кроссплатформенных инфостилеров на macOS
Эксперты Microsoft зафиксировали активное распространение нового поколения инфостилеров, которые все чаще нацеливаются на macOS и используют Python-скрипты, а также легитимные облачные и разработческие платформы для маскировки своей активности.
Мошенники рассылают письма с предложением оформить «семейную налоговую выплату»
В России зафиксирована новая волна мошенничества, связанная с темой налоговых льгот для семей с детьми.
Сервис TenChat опроверг сообщения о крупной утечке данных
Социальная сеть TenChat официально опровергла информацию о том, что база данных её пользователей оказалась в свободном доступе.
Открыт прием документов на соискание Премии за достижения в области цифровой трансформации организаций CDO / CDTO AWARDS 2026
До 7 апреля 2026 года открыт приём заявок на Премию CDO / CDTO Awards 2026, которая проводится в рамках VII Российского Саммита и Премии по цифровой трансформации организаций CDO / CDTO Summit & Awards 2026 – одного из ключевых событий в сфере цифровой трансформации бизнеса и государственного управления в России.
Хакеры взламывают Nginx-серверы для перехвата и перенаправления пользовательского трафика
Эксперты зафиксировали новую волну атак, в рамках которых злоумышленники получают доступ к серверам на базе Nginx и используют их для перенаправления пользовательского трафика на вредоносные ресурсы.
Большинство организаций, планирующих создать SOC, считают необходимым внедрение ИИ
Практически все организации в мире, которые планируют строить центры мониторинга кибербезопасности — полностью сами или частично с помощью подрядчиков, намерены внедрять в них искусственный интеллект.
Российская операционная система Astra Linux для будущих экономистов
Лидер российского рынка инфраструктурного ПО «Группа Астра» и Российский экономический университет им.
Эксперт GSOC рассказал о рисках при обмене данными
Оперативное информирование профессионального сообщества о новых киберугрозах является фундаментом коллективной безопасности, однако формат раскрытия данных требует строгого баланса.
Владелец даркнет-площадки Incognito Market получил 30 лет тюрьмы
В США суд приговорил основателя и оператора даркнет-платформы Incognito Market к 30 годам лишения свободы.