GPT-4o создает поддельные документы быстрее, чем вы успеете их проверить

С помощью новой модели GPT-4o от OpenAI подделывать документы стало проще, чем когда-либо. Впечатляющие возможности искусственного интеллекта теперь позволяют создавать правдоподобные фальшивки всего за несколько секунд, и они становятся все более трудными для обнаружения. Социальные сети уже пестрят примерами, где AI генерирует отмененные авиарейсы, фальшивые банковские выписки и даже университетские дипломы, с которыми можно легко втереться в любое учреждение.

Эти инновации несут с собой огромные угрозы для безопасности. Ранее для создания поддельных документов требовались профессиональные графические редакторы и время, теперь же любой пользователь может получить доступ к этим технологиям. Компании и государственные учреждения, которые полагаются на базовую верификацию документов, теперь сталкиваются с волной фальшивок, которую трудно контролировать.

OpenAI заявляет, что для предотвращения злоупотреблений в каждом изображении GPT-4o есть встроенные метаданные C2PA, показывающие, что оно создано искусственным интеллектом. Однако эти метки легко удалить опытными пользователями, а также для их обнаружения требуются специальные инструменты, которые далеко не все имеют в распоряжении. В результате, даже с метками, фальшивки становятся все более сложными для проверки.

Как бы OpenAI не пыталась ограничить возможности своего творения, проблема остается актуальной. Постоянно растущее количество фальшивок ставит под угрозу системы верификации, которые просто не успевают за новым темпом цифровых махинаций. Вопрос остается открытым: когда же AI подделки станут настолько распространенными, что их будет невозможно отличить от настоящих документов?