Хакеры могут читать ваши мысли: уязвимость ChatGPT раскрыта

Исследователи кибербезопасности нашли метод, позволяющий расшифровать переписку с чат-ботами на основе технологии больших языковых моделей. Этот прорыв, сделанный специалистами из компании Offensive AI Lab в Израиле, выявил уязвимость в системе передачи данных чат-ботов, которая делала возможным перехват и анализ зашифрованных сообщений через длину токенов — базовых элементов языка моделей.

Однако, разработчики из OpenAI и Cloudflare уже предприняли шаги для укрепления безопасности, вводя в сообщения наборы «мусорных» данных, которые усложняют процесс расшифровки. Эта мера повышает уровень защиты и сохраняет конфиденциальность общения между пользователями и искусственным интеллектом.

Интересно, что уязвимость была особенно выражена в английском языке из-за его склонности к использованию длинных токенов. В случае с другими языками, включая русский, метод оказался менее эффективным благодаря коротким токенам, что снижает риск утечки информации.

Эксперты подчеркивают, что даже с использованием этой методики шансы на раскрытие точных данных, таких как личные имена или адреса, остаются невелики. Разработчики по всему миру активно работают над улучшением защитных механизмов для обеспечения безопасности и приватности общения с искусственным интеллектом.