Созданные ИИ лица вызывают больше доверия, чем реальные

Доктор Софи Найтингейл (Sophie Nightingale) из Ланкастерского университета и профессор Хани Фарид (Hany Farid) из Калифорнийского университета в Беркли провели ряд экспериментов, в ходе которых участников просили отличить современные лица, синтезированные с помощью нейросети StyleGAN2, от реальных, сообщает SecurityLab.

Как показали результаты исследования, искусственно сгенерированные лица оказались не только очень фотореалистичными, но и почти неотличимыми от реальных лиц и даже вызывающими больше доверия у участников. По словам экспертов, искусственный интеллект преодолел эффект «зловещей долины» и способен создавать правдоподобные лица.

В первом эксперименте 315 участников классифицировали 128 лиц, взятых из набора из 800 изображений, как настоящие или синтезированные. Точность участников составила 48%. Во втором эксперименте 219 новых участников прошли обучение и получили подсказки о том, как классифицировать лица. Несмотря на их обучение, уровень точности определения лиц повысился только до 59%. В третьем исследовании 223 участникам было предложено оценить подлинность 128 лиц, взятых из того же набора из 800 изображений, по шкале от 1 (очень ненадежно) до 7 (очень достоверно). Средняя оценка искусственных лиц была на 7,7% более достоверной, чем средняя оценка реальных лиц.

«Интересно то, что искусственно сгенерированные лица вызывают больше доверия, чем настоящие лица», — отметили ученые.

Лица с темным оттенков кожи были оценены как более заслуживающие доверия, чем лица из Южной Азии. Женские лица были оценены как значительно более надежные, чем мужские.

Для защиты общественности от дипфейков эксперты предложили разработать руководство по созданию и распространению синтезированных изображений.

«Защитные меры могут включать, например, внедрение надежных водяных знаков в сети синтеза изображений и видео, которые обеспечат последующий механизм для идентификации. Поскольку демократизация доступа к этой мощной технологии представляет собой наиболее серьезную угрозу, мы также призываем к пересмотру подхода, часто основанного на невмешательстве, к публичному доступу и неограниченному выпуску кода для включения в любое приложение любым пользователем», — сообщили специалисты.