Deepfake в кибератаках: как ИИ-подделки используются мошенниками

Что такое дипфейк-мошенничество и как оно работает

В основе дипфейк-мошенничества лежит связка двух вещей: генеративного искусственного интеллекта, который создает правдоподобную копию голоса или внешности, и классической социальной инженерии, которая заставляет жертву действовать. Технология сама по себе не атакует — она лишь делает старый сценарий обмана убедительнее. Сначала злоумышленники собирают открытые данные о человеке, включая фрагменты голоса и видео, затем создают «цифрового клона», а после запускают сценарий давления, в котором жертву торопят перевести деньги или передать доступы.

Алексей Лужнов
Руководитель BI.ZONE AntiFraud

Такие схемы основаны на сочетании социальной инженерии и технологий генеративного ИИ. Мошенники заранее собирают открытые данные о человеке, включая голосовые фрагменты и видео, после чего с помощью нейросетей создают правдоподобную имитацию голоса или внешности. Дальше запускается сценарий давления, в рамках которого жертву торопят принять решение.

Технически за цифровым клоном стоит зрелая индустрия. Большинство современных методов генерации опирается на генеративно-состязательные сети (GAN), где один алгоритм создает подделку, а второй пытается отличить ее от оригинала. В этом соревновании качество фейка непрерывно растет. Готовые инструменты замены лиц и синтеза речи давно не требуют технических навыков: достаточно загрузить исходное фото или аудио и задать параметры.

Сергей Карпович
Заместитель руководителя направления Т1 ИИ (ИТ-холдинг Т1)

В основе большинства современных методов создания дипфейков лежат генеративно-состязательные сети (GAN). Демократизация ИИ-технологий привела к тому, что эти высокоточные инструменты генерации стали легко доступны большинству людей, в том числе мошенникам. При этом они не требуют глубоких технических навыков от пользователя: ему достаточно просто загрузить исходное фото, аудио или видео, задать «промт» изменений, и алгоритмы создадут почти неотличимый от реальности фейк.

Ключевое, что изменил ИИ, — масштаб и достоверность. Дипфейк перестал быть только способом сгенерировать эффектное видео и стал инструментом таргетированных атак: по открытым источникам злоумышленники собирают биометрию и манеру речи конкретного человека и от его имени воздействуют на жертву. Показательный пример — атаки на бизнес, где поддельными оказываются не отдельные реплики, а целые совещания.

Максим Федосенко
Ведущий инженер-аналитик Аналитического центра кибербезопасности компании «Газинформсервис»
Злоумышленники собирают данные (например, биометрию) и паттерны поведения жертвы из открытых источников и создают «цифрового клона» с высокой степенью достоверности, чтобы впоследствии от имени этого цифрового клона воздействовать методами социальной инженерии на жертву. В практике ИБ уже зафиксированы масштабные кампании, вроде нашумевшего «Гонконгского спектакля», где хакеры сгенерировали по видеосвязи целый совет директоров, чтобы вынудить сотрудника провести финансовые операции.

При всей технологичности сам сценарий остается прежним. Дипфейк не переписывает схему социальной инженерии, а лишь снимает у жертвы последние сомнения — голос и лицо, которым мы привыкли доверять, начинают работать как «доказательство» личности.

Как это проявляется: сценарии атак

На практике дипфейк-мошенничество почти всегда строится вокруг искусственной срочности и подмены доверенного лица. Самые частые сценарии — просьба о срочном займе или экстренной помощи родственнику, звонок руководителя с конфиденциальным поручением, видеообращение в корпоративном чате. Чтобы поднять правдоподобность, злоумышленники комбинируют в одной схеме сгенерированный голос, поддельные и взломанные аккаунты, после захвата которых рассылают уже готовый синтетический контент.

Константин Ларин
Руководитель департамента киберразведки компании «Бастион»
К самым распространенным сценариям атак можно отнести просьбы о срочном займе, сообщения об экстренной помощи родственнику, звонки от имени руководителя с «конфиденциальным поручением», а также видеообращения в корпоративных чатах. При этом злоумышленники все чаще комбинируют в рамках одной схемы сгенерированный голос, поддельные аккаунты и взломанные профили для большей правдоподобности.

В мессенджерах и соцсетях атаки становятся прицельными. Злоумышленники изучают старые посты и переписки, чтобы скопировать стиль общения, сленг и уровень сокращений конкретного человека, — это так называемый целевой фишинг. Отдельная и все более частая разновидность — не выманивание денег, а шантаж. Здесь дипфейк создается, чтобы скомпрометировать жертву, с угрозой разослать поддельные материалы близким и коллегам. Такой сценарий особенно опасен тем, что давит не на срочность, а на страх за репутацию.

Максим Федосенко
Ведущий инженер-аналитик Аналитического центра кибербезопасности компании «Газинформсервис»
В мессенджерах и соцсетях преобладают таргетированные атаки (так называемый Spear-phishing), построенные на глубоком профилировании жертвы и высокой степени достоверности его копии с целью осуществления финансового мошенничества или шантажа. В то же время основной сценарий всегда завязан на создании тайм-прессинга, когда фейковый босс или родственник под суперсрочным и важным предлогом принуждает к осуществлению действий — перевести средства или передать чувствительную информацию.

Как распознать подделку: индикаторы компрометации

Распознать качественный дипфейк становится труднее, но у синтетики остаются характерные следы. Индикаторы компрометации удобно разделить на три группы: технические артефакты, речевые и поведенческие несоответствия. В голосовых звонках насторожить должны неизвестный номер, задержки при ответах, неестественные интонации, ошибки в ударениях и отсутствие конкретики; фоновый шум, которым «маскируют» огрехи, — сам по себе тревожный сигнал. В видео стоит смотреть на мимику, движение зрачков и частоту моргания, а также на рассинхрон губ и звука.

Сергей Карпович
Заместитель руководителя направления Т1 ИИ (ИТ-холдинг Т1)
В случае, если мошенничество происходит с применением поддельного «голоса», индикаторами станут звонок с неизвестного номера, задержки при ответах и репликах, неестественные интонации и отсутствие конкретики в разговоре. Когда речь идет о видеодипфейках, в первую очередь стоит обращать внимание на мимику, движение зрачков и частоту моргания. Если собеседник редко моргает, а его взгляд движется неестественно, скорее всего, вы общаетесь с мошенником. Кроме того, движения губ могут не совпадать со звуком.

В переписке подделку выдает стерильность общения. Нейросеть выдает себя избыточно правильной структурой текста там, где живой человек написал бы проще или с опечаткой, а также отсутствием контекста прошлых бесед; в звонках модель «галлюцинирует» при резкой смене темы или на фоновом шуме, а видеодипфейки оставляют артефакты на границах лица. Стоит опираться и на поведенческие маркеры, которые от качества подделки не зависят. Главные из них — нетипичная срочность, давление на эмоции и попытки увести жертву от привычных процедур проверки.

Алексей Лужнов
Руководитель BI.ZONE AntiFraud

Даже при высокой реалистичности таких атак чаще всего проявляются поведенческие несоответствия. Это может быть нетипичная срочность, попытка заставить действовать без проверки, давление на эмоции, а также просьбы обойти привычные процедуры безопасности. Также настораживают ситуации, когда собеседник избегает альтернативных каналов подтверждения.

Как понять, что перед вами подделка, если технические артефакты неочевидны? Задайте вопрос, ответ на который невозможно найти в соцсетях, или попросите видеособеседника повернуть голову либо провести рукой перед лицом: на таких движениях поддельная внешность часто искажается. А любое сочетание знакомого голоса, срочного повода и запрета на перепроверку стоит считать красным флагом само по себе.

Константин Ларин
Руководитель департамента киберразведки компании «Бастион»
Главный признак фишингового звонка или сообщения — попытка создать ощущение срочности и важности, чтобы отключить у человека критическое мышление. Если собеседник требует немедленно перевести деньги, не перезванивать и никому не сообщать о происходящем — это уже повод насторожиться. Даже если голос кажется знакомым, лучше завершить разговор и связаться с человеком, от лица которого был звонок, по известному проверенному каналу связи.

Что делать, если стали жертвой

Первоочередная задача — локализовать ущерб: прекратить контакт, заблокировать счета и карты, отозвать доступы и сбросить активные сессии, сменить пароли. Параллельно важно зафиксировать все, что произошло. После этого следует обратиться в правоохранительные органы и к оператору связи.

Сохраненные доказательства — переписка, время звонков и видеозаписи — пригодятся и банку, и правоохранителям. Отдельный шаг — проверить устройства: как понять, что устройство заражено, помогает антивирусная проверка и анализ активных сессий, а при малейших сомнениях пароли меняют с заведомо чистого устройства.

Сергей Карпович
Заместитель руководителя направления Т1 ИИ (ИТ-холдинг Т1)
Если схема мошенников была направлена на получение денег, то сразу же свяжитесь с вашим банком для временной блокировки карт и счетов. Смените пароли в приложениях финансовых и государственных сервисов. Также обязательно сохраните все доказательства произошедшего: зафиксируйте переписки, время звонков, номера злоумышленников, сохраните аудио- и видеоматериалы.

В корпоративной среде к личным мерам добавляется немедленное уведомление службы безопасности — чтобы ИБ-специалисты успели закрыть контур, отозвать доступы и предупредить других сотрудников. Отдельный вопрос — как удалить дипфейк-материалы, если атака строится на шантаже. Платить вымогателям не стоит: это не гарантирует удаления и провоцирует новые требования. Правильный путь — зафиксировать факт, направить жалобу на удаление контента администрации платформы или соцсети, при необходимости подать заявление в правоохранительные органы. Чем быстрее поданы запрос на удаление и заявление, тем меньше охват у поддельного материала.

Константин Ларин
Руководитель департамента киберразведки компании «Бастион»
Если деньги или конфиденциальные данные попали в руки злоумышленников, необходимо как можно скорее принять меры: заблокировать банковскую карту, сменить пароли, завершить подозрительные сеансы и обратиться в правоохранительные органы. Чем быстрее человек отреагирует, тем выше шанс минимизировать ущерб.

Как защититься и предотвратить повторение

Главный принцип защиты от дипфейк-звонков прост: голос и изображение больше не являются доказательством личности. Любую нестандартную просьбу — о переводе, кодах подтверждения, доступах — нужно проверять через независимый канал: перезвонить по известному номеру, написать в другой мессенджер, спросить лично. Действенный бытовой прием — заранее договориться с близкими о кодовом слове на случай экстренной ситуации и ограничить публикацию длинных записей своего голоса и видео. Полезно вешать трубку и перезванивать: мошенники активно препятствуют такой паузе.

Алексей Лужнов
Руководитель BI.ZONE AntiFraud

Основной принцип защиты заключается в том, чтобы не полагаться только на голос или изображение как на доказательство личности. Важно всегда использовать дополнительный канал проверки — перезвонить по известному номеру или получить подтверждение через корпоративные средства коммуникации.

Стоит также установить многофакторную аутентификацию в банковских приложениях и других сервисах. Однако все это не гарантирует полноценной защиты, так как технологические методы злоумышленников тоже постоянно совершенствуются, поэтому главное правило безопасности. В корпоративном контуре к этому добавляется системная профилактика: принцип нулевого доверия, правило нескольких подтверждений для критичных операций, регулярное обучение сотрудников актуальным сценариям и антифрод-системы, отслеживающие поведенческие аномалии.

Максим Федосенко
Ведущий инженер-аналитик Аналитического центра кибербезопасности компании «Газинформсервис»
Эффективная защита от голосового мошенничества и дипфейков требует комплексного подхода, при котором технологические решения применяются совместно с жесткой цифровой гигиеной.

Частые ошибки пользователей

Большинство успешных атак опирается не на совершенство технологии, а на предсказуемые ошибки жертвы. Первая и главная — доверие знакомому голосу или лицу без дополнительной проверки. Вторая — решения, принятые в спешке и под эмоциональным давлением: именно на страх, жадность и желание помочь близкому делают ставку почти все современные схемы.

Константин Ларин
Руководитель департамента киберразведки компании «Бастион»
Первая ошибка — доверие голосу и игнорирование признаков, указывающих на фишинговый звонок или сообщение. Многие считают, что знакомый голос невозможно подделать, но это не так. Вторая распространенная ошибка — принятие решений под давлением времени и эмоций. Именно на спешку, страх и желание помочь близкому человеку сегодня делают ставку практически все современные фишинговые схемы.

Третий фактор проявляется еще до атаки — это дефицит цифровой гигиены. Избыточная публичность в соцсетях, открытые данные о близких, хобби, поездках и рабочем графике дают злоумышленникам материал, из которого ИИ собирает убедительного «цифрового двойника».

Замыкает список неосмотрительность в повседневных действиях — переход по неизвестным ссылкам, поспешные диалоги с новыми контактами, передача кодов подтверждения и избыточное раскрытие персональных данных. Риск усиливает и игнорирование внутренних правил безопасности.

Алексей Лужнов
Руководитель BI.ZONE AntiFraud

Существенную роль играет игнорирование внутренних правил безопасности и передача кодов подтверждения или доступов. Дополнительно риски усиливает избыточная открытость персональной информации в сети.

Итого

Дипфейк-мошенничество "сегодня" — это не новая угроза, а старая социальная инженерия, получившая в руки убедительный инструмент. Искусственный интеллект не изменил цель злоумышленников — заставить человека действовать быстро и без проверки, но снял последний барьер недоверия: голос и лицо, на которые мы полагались как на доказательство, перестали им быть.

Именно поэтому защита сместилась с распознавания подделки на дисциплину проверки. Технические индикаторы — артефакты видео, «стерильность» переписки, ошибки в интонациях — полезны, но с каждым обновлением моделей их все меньше. Устойчиво работает другое: поведенческие маркеры (срочность, давление, запрет на перепроверку) и привычка подтверждать любую критичную просьбу через независимый канал — звонок по известному номеру, кодовое слово, проверочный вопрос.

Для человека это означает две вещи: не выкладывать в открытый доступ длинные записи голоса и лишние подробности о себе и не принимать решений под тайм-прессингом. Для организаций — сочетать технологии с регламентом: принципом нулевого доверия, правилом нескольких подтверждений и обучением сотрудников.

Качество подделок, несомненно, будет только расти. Но слабое место дипфейк-мошенничества остается: оно работает лишь там, где нет паузы на проверку.