Claude пишeт вредоносный код: эксперты разобрали, как ИИ используют для создания малвари

Claude пишeт вредоносный код: эксперты разобрали, как ИИ используют для создания малвари

Исследователи продемонстрировали, что языковую модель Claude можно использовать для генерации вредоносного кода, если корректно сформулировать запросы и обойти встроенные ограничения.

Эксперимент показал, что при определенной последовательности запросов модель способна выдавать фрагменты кода, которые могут быть использованы в вредоносных сценариях. Речь идет не о прямой выдаче готового вируса, а о пошаговом получении компонентов, которые затем объединяются в рабочий инструмент.

В публикации отмечается, что современные ИИ-модели содержат механизмы фильтрации и блокировки опасных запросов, однако при грамотной формулировке и дроблении задачи на этапы ограничения можно частично обойти. Это поднимает вопрос о границах ответственности разработчиков ИИ и эффективности встроенных защитных механизмов.

Эксперты подчеркивают, что ИИ в данном случае выступает ускорителем процесса, но не заменяет техническую экспертизу злоумышленника. Тем не менее доступность подобных инструментов снижает порог входа в разработку вредоносного ПО и усиливает дискуссию о регулировании и контроле генеративных моделей.

 


похожие материалы

Стрелочка
Стрелочка
Разработчики мессенджера Max заявляют, что не отслеживают использование VPN
Разработчики мессенджера Max заявляют, что не отслеживают использование VPN

Исследователи обнаружили, что в Android-клиенте мессенджера Max есть встроенный модуль, который проверяет доступность серверов Telegram и WhatsApp*, определяя IP-адрес пользователя через сторонние сервисы и фиксируя использование VPN.

Новая схема обмана: мошенники начали выдавать себя за таможню и вымогать деньги за «посылки»
Новая схема обмана: мошенники начали выдавать себя за таможню и вымогать деньги за «посылки»

В России зафиксирована новая схема интернет-мошенничества: лоумышленники начали массово писать гражданам в мессенджерах, представляясь сотрудниками таможенных органов и требуя оплатить якобы обязательные таможенные платежи за посылки.

Хактивисты ударили по DHS: в сеть утекли контракты иммиграционной службы США и данные тысяч подрядчиков
Хактивисты ударили по DHS: в сеть утекли контракты иммиграционной службы США и данные тысяч подрядчиков

Хактивистская группа Department of Peace заявила о взломе систем Министерства внутренней безопасности США и публикации документов, связанных с контрактами ведомства и Иммиграционной и таможенной полиции США.