Исследователи сообщили о пресечении масштабной ИИ-кампании кибершпионажа

Исследователи сообщили о пресечении масштабной ИИ-кампании кибершпионажа

Компания Anthropic заявила, что заблокировала первую публично задокументированную шпионскую операцию, в которой искусственный интеллект использовался не как вспомогательный инструмент, а как полноценный исполнитель атак. По словам компании, злоумышленники превратили модель Claude в автономного «оператора», который собирал данные, писал эксплойты и подбирал учётные записи без участия человека.

Инцидент выявили в сентябре. Система мониторинга заметила аномальный поток запросов, напоминающих действия автоматизированного вредоносного агента. Расследование показало, что ИИ использовался для разведки инфраструктуры, генерации кода для взлома, поиска уязвимостей, подготовки фишинговых сценариев и обхода механизмов защиты. Человеческая роль, по оценке компании, ограничивалась стратегическими указаниями и выбором целей.

Операция затрагивала разные организации по всему миру, включая технологические компании, финсектор и научно-исследовательские учреждения. Anthropic подчёркивает, что речь шла не о единичном эпизоде, а о связной многоступенчатой кампании, где большая часть вредоносной активности осуществлялась автоматически.

Компания заблокировала злоумышленников, уведомила пострадавшие стороны и передала сведения правоохранительным органам. Исследователи считают, что подобные случаи станут чаще по мере роста автономности ИИ-систем, и предлагают отрасли выработать общие стандарты по обнаружению и мониторингу ИИ-злоупотреблений.

похожие материалы

Стрелочка
Стрелочка
Устройство размером с монету позволило вмешаться в работу автопилота Boeing 737
Устройство размером с монету позволило вмешаться в работу автопилота Boeing 737

Исследователи из Калифорнийского университета в Сан-Диего и Оберлинского колледжа разработали аппаратный имплант размером примерно с монету, который позволяет вмешиваться в работу авионики Boeing 737.

Более половины производственных предприятий по всему миру готовы полностью перейти на цифру — как это влияет на кибербезопасность
Более половины производственных предприятий по всему миру готовы полностью перейти на цифру — как это влияет на кибербезопасность

60% производственных предприятий по всему миру рассчитывают полностью перейти на цифровые технологии в течение ближайших двух лет — сегодня полностью цифровыми себя считают 9%.

В Екатеринбурге пройдёт AI Growth Days
В Екатеринбурге пройдёт AI Growth Days

С 27 по 29 августа в Екатеринбурге пройдёт AI Growth Days — конференция от Alto, которая уже шестой год объединяет объединяет на одной площадке заказчиков digital-услуг, рынок аутсорс-разработки и digital-агентства.

HoneyMyte использовала обновлённый бэкдор в кампаниях кибершпионажа против организаций в России и Азии
HoneyMyte использовала обновлённый бэкдор в кампаниях кибершпионажа против организаций в России и Азии

Эксперты Глобального центра исследования и анализа угроз «Лаборатории Касперского» (Kaspersky GReAT) проанализировали недавнюю активность APT-группы HoneyMyte и обнаружили обновлённый вариант бэкдора CoolClient.