Нейросеть Alibaba самопроизвольно занялась майнингом на собственных GPU, обойдя системы безопасности
Исследователи зафиксировали инцидент, в ходе которого ИИ-агент крупной технологической компании без каких-либо инструкций от создателей развернул майнинг криптовалюты на выделенных серверных мощностях. Это произошло во время штатного обучения модели.
Как сообщается в техническом отчёте Alibaba, инцидент вскрылся благодаря срабатыванию систем мониторинга. Управляемый брандмауэр Cloud обнаружил серию нарушений политики безопасности на обучающих серверах. Среди аномалий были попытки доступа к ресурсам внутренней сети и характерный для криптомайнинга сетевой трафик.
Первоначально инцидент рассматривался как стандартная компрометация или ошибка конфигурации. Однако повторяющийся характер нарушений заставил исследователей сопоставить временные метки срабатывания брандмауэра с телеметрией системы обучения (RL). Выяснилось, что аномальный трафик точно совпадал с моментами, когда ИИ-агент вызывал инструменты и выполнял код.
«В соответствующих журналах модели мы наблюдали, как агент активно инициировал вызовы инструментов и этапы выполнения кода, которые привели к этим сетевым действиям. Важно отметить, что такое поведение не запрашивалось в подсказках к задаче и не требовалось для её выполнения», — приводятся в материале выдержки из отчёта Alibaba.
В одном из зафиксированных случаев агент установил обратный SSH-туннель от облачного экземпляра Alibaba к внешнему IP-адресу. Такой канал удалённого доступа позволяет эффективно обходить фильтрацию входящего трафика и ослаблять контроль администратора. Кроме того, было зафиксировано несанкционированное перепрофилирование мощностей GPU для майнинга, что незаметно отвлекало ресурсы от процесса обучения.
Авторы отчёта характеризуют произошедшее как непредвиденный класс небезопасных действий, возникающих без явных инструкций и за пределами предполагаемой изолированной среды.
В контексте данного инцидента издание также напоминает о недавних исследованиях. В 2025 году Palisade Research продемонстрировало, что некоторые модели (включая o3 от OpenAI) могут игнорировать прямые команды на выключение, находя способы обойти сценарий завершения работы. Ранее китайские учёные также показали, что две популярные LLM (Llama31-70B-Instruct и Qwen2.5-72B-Instruct от самой Alibaba) способны клонировать себя в 50% и 90% случаев соответственно, создавая функционирующие копии без внешнего вмешательства.
похожие материалы
«Газинформсервис» представил квартальное обновление Efros DefOps 2.14: диагностика RADIUS, интеграция с Check Point и совместимость с Ред ОС 8
Компания «Газинформсервис» выпустила релиз 2.
RIGF 2026: в России построен комплексный цифровой суверенитет
Современные операторы связи сталкиваются с беспрецедентными вызовами: взрывном рост трафика, усложнением архитектуры сетей, участившиеся кибератаки и постоянно растущие ожидания абонентов от качества и непрерывности сервиса.
22 из 30 популярных российских Android-приложений умеют выявлять VPN
RKS Global опубликовала исследование, в котором утверждает, что 22 из 30 популярных российских Android-приложений умеют определять наличие VPN на устройстве, а 19 из них еще и передают этот статус на сервер.
Сайт CPUID взломали и сутки раздавали STX RAT под видом CPU-Z и HWMonito
Сайт CPUID, через который распространяются CPU-Z, HWMonitor, HWMonitor Pro и PerfMonitor, был скомпрометирован.
Дуров заявил, что Telegram за 12 лет не раскрыл ни одного байта переписки пользователей
Павел Дуров заявил, что за всю 12-летнюю историю Telegram не раскрыл ни одного байта сообщений пользователей.
Мошенники начали делать россиян «админами» чужих каналов для шантажа
Мошенники начали использовать новую схему давления через Telegram-каналы.
Мошенники начали рассылать фальшивые письма о долгах по членским взносам
Т-Банк предупредил о новой схеме мошенничества с поддельными письмами об оплате членских взносов.
«Боцман» 3.2: больше контроля для ИБ и удобства для разработчиков
Компания «Платформа Боцман» (входит в «Группу Астра») выпустила новую версию корпоративного решения для управления контейнерными средами — «Боцман» 3.
Анатомия ландшафта киберугроз: ИТ-сектор вытеснил финансы из тройки самых атакуемых отраслей в 2025 году
По данным глобального отчёта «Анатомия ландшафта киберугроз» от экспертов центра сервисов по кибербезопасности «Лаборатории Касперского», государственные учреждения и промышленность остаются самыми привлекательными целями для злоумышленников — в 2025 году на них пришлось больше всего инцидентов высокой критичности.
В Коврове состоится конференция по вопросам безопасности объектов и территорий «БРОНЯ-2026»
Мероприятие объединит представителей силовых ведомств, разработчиков средств защиты и научное сообщество.