Исследователи IBM легко превратили ChatGPT в хакера

Исследователи IBM легко превратили ChatGPT в хакера

ChatGPT легко использовать для мошенничества или кибератак и для этого пользователю не нужно понимать код на продвинутом уровне. О результатах исследования IBM пишет Axios.

Помимо ChatGPT в эксперименте были задействованы и другие большие языковые модели. Перед каждым инструментом на основе искусственного интеллекта поставили задачу написать вредоносный код или дать рекомендации, как обойти правила безопасности.

Исследователи отметили, что для использования инструмента в этих целях достаточно знания английского и базовых сведений о том, как обучают искусственный интеллект. В ходе эксперимента перед большими языковыми моделями была поставлена задача сыграть в игру, где нужно давать заведомо неправильные ответы на поставленные вопросы. В результате этого нехитрого трюка искусственный интеллект предложил свои варианты вредоносного кода, схемы обмана жертв с целью получения выкупа и выполнил ряд других действий, как заправский хакер.

похожие материалы

Стрелочка
Стрелочка
ИнфоТеКС отмечает 35-летие
ИнфоТеКС отмечает 35-летие

Компания «ИнфоТеКС» – ведущий отечественный разработчик и производитель высокотехнологичных программных и программно-аппаратных средств защиты информации, отмечает 35-летие.

МВД запустило проект «Код из смс» для предупреждения о мошенниках
МВД запустило проект «Код из смс» для предупреждения о мошенниках

МВД России совместно с МИД и РИА Новости запустило специальный проект «Код из смс», который станет дополнительным каналом оперативного предупреждения граждан о новых и уже известных схемах телефонного мошенничества.

Срочно и официально: «Лаборатория Касперского» и МегаФон выяснили, какие фишинговые письма привлекают внимание сотрудников
Срочно и официально: «Лаборатория Касперского» и МегаФон выяснили, какие фишинговые письма привлекают внимание сотрудников

Аналитики «Лаборатории Касперского» и МегаФона проанализировали статистику тренировочных фишинговых рассылок за последние несколько лет*.