Доктор Софи Найтингейл (Sophie Nightingale) из Ланкастерского университета и профессор Хани Фарид (Hany Farid) из Калифорнийского университета в Беркли провели ряд экспериментов, в ходе которых участников просили отличить современные лица, синтезированные с помощью нейросети StyleGAN2, от реальных, сообщает SecurityLab.
Как показали результаты исследования, искусственно сгенерированные лица оказались не только очень фотореалистичными, но и почти неотличимыми от реальных лиц и даже вызывающими больше доверия у участников. По словам экспертов, искусственный интеллект преодолел эффект «зловещей долины» и способен создавать правдоподобные лица.
В первом эксперименте 315 участников классифицировали 128 лиц, взятых из набора из 800 изображений, как настоящие или синтезированные. Точность участников составила 48%. Во втором эксперименте 219 новых участников прошли обучение и получили подсказки о том, как классифицировать лица. Несмотря на их обучение, уровень точности определения лиц повысился только до 59%. В третьем исследовании 223 участникам было предложено оценить подлинность 128 лиц, взятых из того же набора из 800 изображений, по шкале от 1 (очень ненадежно) до 7 (очень достоверно). Средняя оценка искусственных лиц была на 7,7% более достоверной, чем средняя оценка реальных лиц.
«Интересно то, что искусственно сгенерированные лица вызывают больше доверия, чем настоящие лица», — отметили ученые.
Лица с темным оттенков кожи были оценены как более заслуживающие доверия, чем лица из Южной Азии. Женские лица были оценены как значительно более надежные, чем мужские.
Для защиты общественности от дипфейков эксперты предложили разработать руководство по созданию и распространению синтезированных изображений.
«Защитные меры могут включать, например, внедрение надежных водяных знаков в сети синтеза изображений и видео, которые обеспечат последующий механизм для идентификации. Поскольку демократизация доступа к этой мощной технологии представляет собой наиболее серьезную угрозу, мы также призываем к пересмотру подхода, часто основанного на невмешательстве, к публичному доступу и неограниченному выпуску кода для включения в любое приложение любым пользователем», — сообщили специалисты.
Редакция Кибер Медиа собрала для вас главные события этой недели из мира кибербезопасности.
Руководители OpenAI, Anthropic, Google DeepMind, Microsoft AI и других технологических компаний подписали открытое письмо к Конгрессу США с призывом ввести обязательную проверку заказов на синтетические ДНК и РНК.
Apple заявила, что мессенджер Max был удален из App Store из-за правил соблюдения санкций: в комментарии Русской службе BBC компания уточнила, что соблюдает законы юрисдикций, в которых работает, но не раскрыла, о каких именно санкциях идет речь.
Исследователи Google разработали систему Passive Heart Rate Monitoring, которая позволяет измерять частоту сердечных сокращений и пульс в состоянии покоя с помощью обычной фронтальной камеры смартфона.
Российская индустрия информационной безопасности в ближайшие годы способна дорасти до годового объема в 1 трлн рублей.
На полях Петербургского международного экономического форума заместитель генерального директора «Газпром-Медиа Холдинга» Сергей Косинский, возглавляющий направление цифровых активов, представил аналитический срез ключевых ИБ-вызовов медиаиндустрии.
Заместитель начальника Аналитического центра кибербезопасности ООО «Газинформсервис» Светлана Лагутина выступит с докладом на «Электро-2026».
На Петербургском международном экономическом форуме состоялась профильная сессия Сбера «Цифровой самозванец: новое оружие массового поражения».
В рамках участия в проекте студенты получили практические знания по работе с программными продуктами «Группы Астра», в частности с Astra Linux — российской операционной системой № 1.
Наиболее атакуемыми отраслями остаются телеком, финансовый сектор и государственные организации; мощность отдельных атак выросла на 173%, а атаки свыше 200 Гбит/с участились на 215%.
