Новый вид кибератаки: как злоумышленники обходят системы машинного обучения

Недавно выявлен новый способ кибератак, использующий хитроумные электронные письма для обмана систем машинного обучения. Это позволяет злоумышленникам проникнуть в корпоративные сети, обходя сложные меры безопасности.

Этот метод, названный «Переполнение разговоров», работает следующим образом: злоумышленники отправляют электронные письма, которые содержат две части. Верхняя часть призывает получателя к определенным действиям, например, к вводу личных данных или переходу по ссылкам. Однако ниже этой видимой части находится скрытый блок текста, который содержит множество пустых строк и обычный текст, который выглядит как обычная электронная переписка.

Этот хитроумный метод позволяет обмануть алгоритмы машинного обучения, так как они склонны рассматривать подобные письма как легитимные из-за их сходства с обычной перепиской. Исследователи заметили, что эта тактика была использована неоднократно, что может указывать на то, что злоумышленники тестируют ее для обхода современных систем безопасности.

Как только злоумышленники проникают в систему, они отправляют запросы на кражу учетных данных, притворяясь легитимными запросами на повторную аутентификацию. Основная цель – управляющие компаний, чьи учетные данные могут быть проданы на темных форумах по высоким ценам.

Этот новый метод атак представляет серьезный вызов для современных систем искусственного интеллекта и машинного обучения, которые основаны на обнаружении аномалий. Чтобы защититься от подобных атак, рекомендуется улучшить алгоритмы машинного обучения, проводить регулярные тренировки по безопасности и внедрять многоуровневую аутентификацию.