ИИ на стороне преступников: исследователи предупреждают об опасности «вредоносных» LLM

ИИ на стороне преступников: исследователи предупреждают об опасности «вредоносных» LLM

Специалисты Unit 42 рассказали о тревожной тенденции: крупные языковые модели (LLM), которые раньше считались помощниками для разработчиков и аналитиков, всё чаще используются злоумышленниками. В свежем отчёте описаны случаи, когда такие модели превращаются в полноценные «фабрики» для фишинга, написания вредоносного кода и подготовки атак.

Исследователи выделяют два ключевых преимущества LLM, которые делают их привлекательными для киберпреступников. Первое - способность генерировать грамотно сформулированный текст, пригодный для социальных инженерных атак, фишинга и мошеннических рассылок. Второе - высокая скорость и лёгкость генерации кода, включая скрипты и модули эксплойтов. Это значит, что для создания вредоносного ПО уже не требуется глубокое знание программирования, достаточно сформулировать нужный запрос.

В отчёте названы две платформы с LLM, предназначенными специально для кибератак: WormGPT и KawaiiGPT. Эти модели лишены моральных фильтров и могут мгновенно выдавать фишинговые письма, скрипты для ransomware, инструменты для скрытого проникновения и др. Их продают или распространяют через специализированные чаты: любой, кто заплатит, получает готовый арсенал.

Главная угроза - снижение порога безопасности: для проведения серьёзной атаки достаточно базовых знаний и доступа к Интернету. Преступники теперь могут масштабировать атаки, запускать кампании массового фишинга, распространять вредоносные программы с минимальными усилиями и быстро адаптироваться.

Авторы отчёта предупреждают: компании, специалисты по безопасности и госорганы должны учитывать, что LLM могут выступать не только как инструменты защиты, но и как инструменты нападения. Необходим комплексный подход: ограничение доступа к таким моделям, мониторинг активности, усиление проверок и развития систем автоматического обнаружения подозрительных сценариев, где участвует ИИ.

РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
Каждое колесо - маячок: дешевые SDR-приемники превращают шинные датчики давления в систему слежки
Каждое колесо - маячок: дешевые SDR-приемники превращают шинные датчики давления в систему слежки

Группа исследователей из Испании, Швейцарии и Люксембурга доказала, что с помощью сети недорогих радиоприемников можно отслеживать перемещения автомобилей через систему мониторинга давления в шинах (TPMS).

Минцифры утвердило «паспорт» для обезличенных данных: ведомство будет запрашивать их при ЧС и карантинах
Минцифры утвердило «паспорт» для обезличенных данных: ведомство будет запрашивать их при ЧС и карантинах

Министерство цифрового развития выпустило приказ № 173, который устанавливает порядок предоставления операторами обезличенных персональных данных в государственную информационную систему «Единая информационная платформа национальной системы управления данными».