Утрата доверия: OpenAI обвинили в широкомасштабном шпионаже

24.06.2024

13 июня OpenAI, которой принадлежит взорвавший интернет в 2022 году ChatGPT, объявила о том, что бывший генерал Пол Накасоне вступил в совет директоров компании.

Пол Накасоне — генерал армии США в отставке и экс-директор АНБ, который был лидером Киберкомандования США и руководил Центральной службой безопасности дольше всех.

Компания надеется, что его военный опыт поможет усилить информационную защиту при использовании искусственного интеллекта. «Знания Накасоне поспособствуют усилиям OpenAI лучше понять, как ИИ можно использовать для усиления кибербезопасности путем быстрого обнаружения и реагирования на угрозы», — сообщается в блоге компании.

Однако, многие выразили опасения по поводу присутствия экс-главы Центральной службы безопасности в руководстве компании. Граждане США уже давно обвиняют АНБ в слежке за собой, а технологии ИИ обостряют существующие проблемы конфиденциальности и личной жизни. Так, бывший сотрудник ЦРУ Эдвард Сноуден назвал решение компании — умышленным предательством прав каждого человека в мире. «Они сняли маску: никогда не доверяйте OpenAI или ее продуктам», — подчеркивает он. Бывший спецагент опасается, что OpenAI, в частности бот ChatGPT будут использовать для широкомасштабного сбора данных и шпионажа.

Новости OpenAI удивили и других экспертов по кибербезопасности. «Я правда думаю, что ИИ будут применять в большей степени для массового шпионажа за населением», — написал в Твиттере профессор криптографии Университета Джонса Хопкинса Мэтью Грин.

Напомним, что ранее из OpenAI со скандалом уволились несколько исследователей в области ИБ. Среди недавних увольнений, связанных с безопасностью в OpenAI, — соучредитель и главный научный сотрудник Илья Суцкевер , сыгравший ключевую роль в ноябрьском увольнении и последующем увольнении Сэма Альтмана, и Ян Лейке. Сотрудники OpenAI и Google DeepMind попросили защиты, чтобы иметь возможность предоставить данные об угрозе ИИ и технологиях, которые создают эти и другие компании. В частности, Даниэль Кокотайло осудил сомнительные методы обеспечения безопасности и прозрачности OpenAI.