Исследователи IBM легко превратили ChatGPT в хакера
ChatGPT легко использовать для мошенничества или кибератак и для этого пользователю не нужно понимать код на продвинутом уровне. О результатах исследования IBM пишет Axios.
Помимо ChatGPT в эксперименте были задействованы и другие большие языковые модели. Перед каждым инструментом на основе искусственного интеллекта поставили задачу написать вредоносный код или дать рекомендации, как обойти правила безопасности.
Исследователи отметили, что для использования инструмента в этих целях достаточно знания английского и базовых сведений о том, как обучают искусственный интеллект. В ходе эксперимента перед большими языковыми моделями была поставлена задача сыграть в игру, где нужно давать заведомо неправильные ответы на поставленные вопросы. В результате этого нехитрого трюка искусственный интеллект предложил свои варианты вредоносного кода, схемы обмана жертв с целью получения выкупа и выполнил ряд других действий, как заправский хакер.
Теги:
похожие материалы
Хакеры взломали Европейское космическое агентство и выставили на продажу сотни гигабайт данных
Европейское космическое агентство сообщило о крупном инциденте, в ходе которого злоумышленники получили доступ к части его внешних серверов и похитили большие массивы данных.
Мошенники устроили «распродажу» невостребованных новогодних подарков в мессенджерах
Киберполиция Санкт-Петербурга предупредила о новой волне мошенничества, в рамках которой злоумышленники предлагают пользователям купить электронику и бытовую технику по бросовым ценам под предлогом распродажи «зависших» новогодних подарков.
Уязвимость WhisperPair ставит под угрозу миллионы Bluetooth-устройств по всему миру
Исследователи из группы Computer Security and Industrial Cryptography при Католическом университете Лёвена выявили критическую уязвимость в протоколе Google Fast Pair, получившую обозначение CVE-2025-36911 и прозванную WhisperPair.
Microsoft и правоохранители вывели из строя крупный сервис киберпреступников RedVDS
Microsoft объявила о совместной с международными правоохранительными органами операции по нейтрализации глобального сервиса RedVDS, который предоставлял киберпреступникам доступ к виртуальным рабочим столам за подписку и использовался для реализации масштабных мошеннических схем.
Logitech признала проблему с сертификатами на macOS, мешающую запуску G-Hub
Пользователи оборудования Logitech на macOS столкнулись с проблемой, из-за которой фирменное программное обеспечение G-Hub не запускается или работает некорректно.
Исследователи предупреждают о новой волне атак, связанных с цифровым обслуживанием управляющих компаний
Специалисты по кибербезопасности из сервиса Angara MTDR зафиксировали активизацию атак, связанных с изменениями в жилищном законодательстве.
Телекоммуникации стали главной целью кибератак в России
Центр мониторинга и реагирования на кибератаки RED Security SOC зафиксировал резкий сдвиг в приоритетах киберпреступников.
В Max опровергли информацию о взломе мессенджера
В пресс-службе национального мессенджера Max заявили, что информация о якобы взломанной платформе и утечке данных более 15 млн пользователей является недостоверной.
В реестр отечественного ПО включили мобильную ОС на базе Android Open Source Project
Минцифры России официально включило в единый реестр российского программного обеспечения мобильную операционную систему «Око», разработанную компанией «Байтэрг» (с июня 2025 г.
Ledger подтвердил утечку данных клиентов через партнёра по оплатам
Производитель криптовалютных аппаратных кошельков Ledger подтвердил, что данные части его клиентов могли быть скомпрометированы в результате инцидента с третьей стороной - компанией Global-e, которая обрабатывает заказы в интернет-магазине Ledger.