Израильские эксперты рассказали о рисках при корпоративном использовании ChatGPT

Израильские эксперты рассказали о рисках при корпоративном использовании ChatGPT

Использующие ChatGPT для решения корпоративных задач компании подвергают данные своих клиентов и прочую ценную информацию существенному риску. Об этом предупредила израильская компания Team8, которая специализируется на кибербезопасности.

Эксперты бьют тревогу: стремительно распространяющаяся практика использования продуктов на основе искусственного интеллекта в компаниях может привести к росту числа утечек и проблемам с законодательством о персональных данных для компаний. В Team8 заявили, что ChatGPT может упростить доступ к данным для хакеров. Дополнительно есть риски, что переданные чат-боты сведения в дальнейшем применят сами компании, разрабатывающие продукты на основе искусственного интеллекта.

Также отмечается, что крупные технологические компания, вроде Microsoft и Alphabet, торопятся добавить в свою продуктовую линейку решения на основе искусственного интеллекта, чтобы обеспечить максимально быструю обработку запросов пользователей. Однако когда эти инструменты начнут использоваться для обучения личную и корпоративную конфиденциальную информацию, её будет очень трудно удалить. 

В отчете содержатся и другие потенциальные риски использования ChatGPT и других подобных ему продуктов. Один из них — растущая угроза распространения информации через приложения третьих сторон, например Bing and Microsoft 365.

похожие материалы

Стрелочка
Стрелочка
Встроенная в MAX «Алиса» сама посоветовала не доверять мессенджеру
Встроенная в MAX «Алиса» сама посоветовала не доверять мессенджеру

Пользователи обнаружили, что встроенная в MAX нейросеть «Алиса» при вопросах о безопасности мессенджера может рекомендовать использовать для него отдельный смартфон и ограничивать доступ приложения к контактам, геолокации, микрофону и камере.

ИИ нашел 84 ранее неизвестные уязвимости в ядрах сетей 4G и 5G
ИИ нашел 84 ранее неизвестные уязвимости в ядрах сетей 4G и 5G

Исследователи Наньянского технологического университета разработали систему iFinder, которая с помощью нескольких ИИ-агентов анализирует программное обеспечение ядра мобильных сетей и ищет ошибки, связанные с избыточным доверием между внутренними компонентами.