Google предупреждает о «дистилляции» и интеграции ИИ в кибератаках

Google предупреждает о «дистилляции» и интеграции ИИ в кибератаках

В блоге Google Threat Intelligence Group опубликован аналитический материал о том, как злоумышленники используют искусственный интеллект в своих операциях. Эксперты выделяют три ключевых направления: дистилляция моделей, активные эксперименты с генеративными системами и их интеграция в существующие схемы атак.

По данным специалистов, преступные группы и государственные акторы тестируют различные ИИ-инструменты для автоматизации рутинных задач, создания фишинговых материалов и ускорения разработки вредоносного кода. Отдельное внимание уделяется попыткам дистилляции - переносу возможностей более мощных моделей в собственные инструменты через обучение на их выходных данных.

В отчете подчеркивается, что пока ИИ чаще используется как усилитель уже известных техник, а не как источник принципиально новых видов атак. Тем не менее наблюдается постепенная интеграция генеративных моделей в инфраструктуру злоумышленников, включая сценарии социальной инженерии и подготовку вредоносных скриптов.

Google отмечает, что уровень технической сложности таких атак варьируется, но тенденция очевидна: ИИ становится частью стандартного инструментария атакующих. Это требует от организаций пересмотра подходов к мониторингу угроз и более активного использования ИИ-технологий в оборонительных целях.

похожие материалы

Стрелочка
Стрелочка
Разработчики мессенджера Max заявляют, что не отслеживают использование VPN
Разработчики мессенджера Max заявляют, что не отслеживают использование VPN

Исследователи обнаружили, что в Android-клиенте мессенджера Max есть встроенный модуль, который проверяет доступность серверов Telegram и WhatsApp*, определяя IP-адрес пользователя через сторонние сервисы и фиксируя использование VPN.

Новая схема обмана: мошенники начали выдавать себя за таможню и вымогать деньги за «посылки»
Новая схема обмана: мошенники начали выдавать себя за таможню и вымогать деньги за «посылки»

В России зафиксирована новая схема интернет-мошенничества: лоумышленники начали массово писать гражданам в мессенджерах, представляясь сотрудниками таможенных органов и требуя оплатить якобы обязательные таможенные платежи за посылки.

Хактивисты ударили по DHS: в сеть утекли контракты иммиграционной службы США и данные тысяч подрядчиков
Хактивисты ударили по DHS: в сеть утекли контракты иммиграционной службы США и данные тысяч подрядчиков

Хактивистская группа Department of Peace заявила о взломе систем Министерства внутренней безопасности США и публикации документов, связанных с контрактами ведомства и Иммиграционной и таможенной полиции США.