Цифровой двойник: новая эра обмана

На Петербургском международном экономическом форуме состоялась профильная сессия Сбера «Цифровой самозванец: новое оружие массового поражения». Модератором дискуссии выступил заместитель Председателя Правления Сбербанка Станислав Кузнецов. В нестандартном формате живого диалога участники прямо на глазах у зрителей создавали и разоблачали дипфейки, наглядно продемонстрировав, как технологии искусственного интеллекта превращаются в инструмент массового мошенничества.

Экономика и масштабы «цифрового обмана»

За последние полтора года количество дипфейков в России увеличилось в 26 раз. Только с начала текущего года финансовый ущерб от данного вида мошенничества превысил 2 млрд рублей, а средний чек одной успешной атаки составил 16 млн рублей.

При этом порог входа в эту криминальную сферу стал минимальным:

• Создание одного дипфейка сейчас обходится злоумышленникам не дороже 50 рублей.
• В теневом сегменте интернета (даркнете) уже накоплено более 40 тысяч готовых ИИ-заготовок под самые разные сценарии обмана.
• Согласно прогнозам экспертов, к концу 2026 года суммарные потери России от деструктивного использования дипфейков могут достигнуть 250 млрд рублей.

Станислав Кузнецов подчеркнул, что нейросети кардинально изменили характер угроз: если раньше преступникам приходилось вручную собирать данные, придумывать сценарии и долго входить в доверие, то теперь всю эту рутину берет на себя ИИ. В результате генерируется контент, к которому у потенциальной жертвы мгновенно возникает максимальный уровень доверия. Жертвами становятся как крупные корпорации (например, в Сингапуре финансового директора заставили перевести миллионы долларов по итогам фальшивого созвона с советом директоров), так и обычные граждане, особенно пожилые люди, которые безоговорочно верят видеообращениям от лица своих «детей» или «внуков».

Три типа дипфейков и синтетические личности

В рамках сессии эксперты классифицировали три основных типа дипфейков, которые сегодня применяются злоумышленниками:

• «Кружочек»: короткий видеоролик в мессенджере, где имитируется экстренная ситуация (например, человек якобы попал в ДТП) и звучит срочная просьба перевести деньги.
• «Фейк-маска»: сценарий, при котором живой исполнитель в реальном времени накладывает на себя чужое лицо и транслирует информацию чужим голосом. Подобный негативный контент несет в себе риски политической дискредитации и может влиять на результаты выборов.
• «Фейк-аватар»: наиболее опасный, полностью цифровой персонаж. Он самостоятельно ведет осмысленный диалог, отвечает на вопросы собеседника и на ходу адаптируется под поведение жертвы. Ожидается, что к концу года такие аватары станут неотличимы от реальных людей и смогут свободно коммуницировать на разных языках.

Спикеры обратили внимание на скорое появление полностью «синтетических личностей», у которых вообще нет физического прототипа, что ставит в тупик правоохранительные органы с точки зрения возбуждения уголовных дел.

Инструменты противодействия и регуляция

Для защиты пользователей Сбер разработал специализированный ИИ-сервис детекции под рабочим названием «Алетейя» (в честь древнегреческой богини истины). Система способна за несколько минут определить подлинность видео- или аудиопотока. Во время сессии участники форума могли протестировать решение по специальному QR-коду.

Тем не менее Станислав Кузнецов отметил, что одних технологических инструментов недостаточно — необходим консолидированный подход государства, бизнеса и науки. Требуется оперативно развивать профильное законодательство, заниматься просвещением граждан и формировать общественный цифровой иммунитет, чтобы технологически опережать преступников, а не просто ликвидировать последствия их действий. Как резюмировали участники дискуссии, в ближайшем будущем подлинность станет самым ценным фактором, за который обществу придется платить очень высокую цену.

В обсуждении проблемы приняли участие представители профильных ведомств и законодатели: исполнительный секретарь Координационного совета генеральных прокуроров стран СНГ Юрий Жданов, депутаты Госдумы Светлана Журова и Борис Чернышов, сенатор Артем Шейкин, а также заместитель начальника следственного департамента МВД РФ Данил Филиппов. Практическую часть дискуссии поддержала телеведущая Ольга Скабеева, побеседовав со сгенерированным цифровым аватаром своего коллеги Владимира Соловьева.