Google будет маркировать созданные искусственным интеллектом изображения

Google DeepMind запускает новый сервис маркировки изображений, созданных при помощи искусственного интеллекта. На них будет наноситься водяной знак из нескольких пикселей, которые незаметны человеческому глазу. Однако их будут отлично считывать машины, которые смогут предупредить пользователя об искусственном происхождении изображения. Предполагается, что сервис поможет в борьбе с дипфейками.

То, что водяной знак невидим человеческому глазу, защищает от попыток изменения изображения вручную. Так, человек не сможет обрезать его или изменить каким-либо другим образом.

Новый водяной знак получит название SynthID и будет внедряться постепенно. Первыми ставить и считывать его на изображениях смогут пользователи Google Cloud, которые используют инструмент на основе искусственного интеллекта Vertex и генератор изображений Imagen.

Сергей Полунин

Руководитель группы защиты инфраструктурных ИТ компании «Газинформсервис»

Это очень здравая инициатива, учитывая то количество контента, которое генерируется с помощью ИИ. Очевидно, что его будет еще больше и пользователь имеет право знать, с чем имеет дело. Потому что изображения, созданные ИИ могут стать инструментом, например, недобросовестной конкуренции, а это серьезная проблема в любую эпоху. Вот от дипфейков это вряд ли поможет. Маркировка будет работать в популярных сервисах вроде Midjourney или Shutterstock, но если будет использована собственная разработка для генерации изображений, то отличить подделку будет все еще проблематично.