Израильские эксперты рассказали о рисках при корпоративном использовании ChatGPT

Использующие ChatGPT для решения корпоративных задач компании подвергают данные своих клиентов и прочую ценную информацию существенному риску. Об этом предупредила израильская компания Team8, которая специализируется на кибербезопасности.

Эксперты бьют тревогу: стремительно распространяющаяся практика использования продуктов на основе искусственного интеллекта в компаниях может привести к росту числа утечек и проблемам с законодательством о персональных данных для компаний. В Team8 заявили, что ChatGPT может упростить доступ к данным для хакеров. Дополнительно есть риски, что переданные чат-боты сведения в дальнейшем применят сами компании, разрабатывающие продукты на основе искусственного интеллекта.

Также отмечается, что крупные технологические компания, вроде Microsoft и Alphabet, торопятся добавить в свою продуктовую линейку решения на основе искусственного интеллекта, чтобы обеспечить максимально быструю обработку запросов пользователей. Однако когда эти инструменты начнут использоваться для обучения личную и корпоративную конфиденциальную информацию, её будет очень трудно удалить. 

В отчете содержатся и другие потенциальные риски использования ChatGPT и других подобных ему продуктов. Один из них — растущая угроза распространения информации через приложения третьих сторон, например Bing and Microsoft 365.