1. Главная
  2. Новости
  3. Claude пишeт вредоносный код: эксперты разобрали, как ИИ используют для создания малвари

Claude пишeт вредоносный код: эксперты разобрали, как ИИ используют для создания малвари

Claude пишeт вредоносный код: эксперты разобрали, как ИИ используют для создания малвари

Исследователи продемонстрировали, что языковую модель Claude можно использовать для генерации вредоносного кода, если корректно сформулировать запросы и обойти встроенные ограничения.

Эксперимент показал, что при определенной последовательности запросов модель способна выдавать фрагменты кода, которые могут быть использованы в вредоносных сценариях. Речь идет не о прямой выдаче готового вируса, а о пошаговом получении компонентов, которые затем объединяются в рабочий инструмент.

В публикации отмечается, что современные ИИ-модели содержат механизмы фильтрации и блокировки опасных запросов, однако при грамотной формулировке и дроблении задачи на этапы ограничения можно частично обойти. Это поднимает вопрос о границах ответственности разработчиков ИИ и эффективности встроенных защитных механизмов.

Эксперты подчеркивают, что ИИ в данном случае выступает ускорителем процесса, но не заменяет техническую экспертизу злоумышленника. Тем не менее доступность подобных инструментов снижает порог входа в разработку вредоносного ПО и усиливает дискуссию о регулировании и контроле генеративных моделей.

 


РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
«Газинформсервис» и Security Vision проведут вебинар о сертифицированной среде на базе СУБД Jatoba
«Газинформсервис» и Security Vision проведут вебинар о сертифицированной среде на базе СУБД Jatoba

Компании «Газинформсервис» Security Vision проведут совместный вебинар, в рамках которого эксперты расскажут о возможностях использования сертифицированной отечественной СУБД «Ятоба» в составе решений Security Vision.

подробнее Стрелочка