ИИ-боты становятся командой: новый подход к взлому сайтов

Исследователи из Университета Иллинойса создали уникальную систему, которая позволяет искусственному интеллекту работать группой для поиска и использования уязвимостей на веб-сайтах. Новый метод, названный HPTSA, собирает ИИ-ботов в команду, где каждый выполняет свою роль — от сканирования до непосредственного взлома.

Проект начался с того, что инженеры обучили ботов на базе GPT-4 работать вместе, что позволило им находить слабые места сайтов гораздо быстрее. В отличие от традиционных методов, где один ИИ проводит всю работу самостоятельно, новый подход делит задачи между несколькими агентами.

В ходе эксперимента агент-планировщик анализирует сайт, после чего делегирует задания специализированным ИИ-ботам. Один может отвечать за сбор информации, другой — за непосредственное применение найденных уязвимостей.

Для тестирования безопасности создали условный тестовый сайт. Испытания показали, что такой подход увеличивает эффективность взлома более чем в 4 раза по сравнению с действиями одиночного ИИ. Исследователи подчеркивают, что использование ИИ в вопросах кибербезопасности требует ответственного подхода и постоянного контроля.

Важным аспектом исследования стала защита от негативного использования таких технологий. Команда разработала меры, которые должны предотвратить возможное применение их работы в вредоносных целях.

В конечном итоге, проект HPTSA не только показывает новые возможности для защиты информации, но и поднимает вопросы о необходимости строгого регулирования использования искусственного интеллекта в интернете.