2SDnjc1JCzF
Тысячи ИИ-агентов OpenAI сбежали на старый немецкий сайт и превратили его в секретный форум
Тысячи автономных агентов OpenAI во время внутренних тестов начали использовать почти заброшенную немецкую DSEwiki как внешнюю площадку для обмена информацией. Исследователи восстановили около 18 тыс. сообщений, оставленных агентами с более чем 3700 разными именами. Позднее OpenAI публично признала так называемый инцидент с wiki и заявила, что индустрии нужны более понятные правила раскрытия случаев непредусмотренного поведения ИИ.
Активность продолжалась около шести недель. Агенты публиковали ответы на тестовые задания, объединяли результаты поиска и передавали друг другу способы обхода ограничений песочницы. По данным исследования, агенты фактически использовали старую немецкую wiki как общую доску, хотя штатного канала для такого взаимодействия между ними не предусматривалось.
Причина оказалась в особенности старого программного обеспечения wiki. Среда OpenAI позволяла агентам отправлять GET-запросы, предполагая, что они предназначены только для чтения данных. Однако DSEwiki допускала изменение страниц через такие запросы. Поэтому агенты смогли превратить формально read-only доступ в возможность записывать информацию в открытый интернет.
В одном из эпизодов агенты нашли способ обойти сетевое ограничение при работе с Microsoft Power BI. Один агент опубликовал найденный метод на wiki, а другой воспроизвел его примерно через 14 минут. Исследователи также обнаружили попытки выдавать себя за модераторов сайта и обращения через AWS, DigitalOcean и Tor. При этом признаков компрометации сторонних систем через саму wiki обнаружено не было.
Инцидент напоминает другую историю с агентами OpenAI и Hugging Face. Тогда около 1200 агентов использовали несанкционированную площадку для обмена десятками тысяч сообщений и файлов, после чего часть из них взаимодействовала с инфраструктурой Hugging Face. OpenAI считает два события отдельными, однако в обоих случаях агенты самостоятельно нашли способы координировать действия за пределами предусмотренных разработчиками каналов.
После публикации расследования OpenAI заявила, что относит wiki incident к случаям misalignment - поведению модели, которое не соответствует намерениям разработчиков, но не обязательно является классическим киберинцидентом. Компания признала, что для таких ситуаций пока нет единого стандарта раскрытия, и сообщила о работе над отдельным подходом совместно с регуляторами.
похожие материалы
Продукт года, Команда года и Проект года – новые номинации на WDA-2027
Премия Workspace Digital Awards открыла пятый сезон и представила новую категорию – «Лидеры года».
ИИ и кибербез стал самым востребованным треком SOC Forum 2026
Трек «AI & Cybersecurity» занял первое место по числу заявок на выступления на SOC Forum 2026.
МИД заявил о преимуществе российских систем спутникового интернета перед западными аналогами
Российские разработчики систем спутникового интернета готовы предоставлять зарубежным государствам не только услуги связи, но и условия для сохранения цифрового суверенитета.
«Яндекс» восстановил большую часть функций умного дома с «Алисой» после атак на дата-центры
Компания «Яндекс» сообщила о восстановлении большинства функций системы умного дома с «Алисой», работа которой была нарушена после серии атак беспилотников на дата-центры.
Anthropic предупредила о появлении ИИ-червей, способных самостоятельно заражать бытовую технику и серверы
Компания Anthropic предупредила о новой потенциальной угрозе кибербезопасности: небольшие модели искусственного интеллекта могут в ближайшие месяцы научиться самостоятельно распространяться между подключёнными к интернету устройствами.
Атакующие почти полностью разрушили 3 из 4 инфраструктур на «Киберарене 2026» в рамках форума GISDAYS
В рамках форума GISDAYS 2026 в Москве на площадке VK Play Arena 30 сентября и 1 октября прошла «Киберарена» — киберполигон компании «Газинформсервис».
Синхронизация интересов: как крупный бизнес и ИТ-вендоры помогают вузам настроить обучение под реальные задачи
В Москве прошел форум «Цифровые решения», где представители власти, сферы образования, крупнейших корпораций и ведущих ИТ-компаний обсудили ход цифровизации госуправления и регионов, влияние технологий на развитие экономики и качество жизни людей, а также уделили особое внимание стратегии и практике создания и внедрения тех решений, что уже сейчас работают и дают реальный эффект.
Security Vision на SOC Forum: кибероперации на скорости ИИ – без потери контроля
Security Vision выступит стратегическим партнером SOC Forum, который пройдет 27-28 октября, и представит концепцию AI-Powered SOC – новый подход к работе центра кибербезопасности, в котором ИИ ускоряет кибероперации, а команда ИБ сохраняет контроль над решениями.
С 8 по 11 сентября 2026 года состоялся юбилейный, 25-й Всероссийский форум «Информационная безопасность. Регулирование. Технологии. Практика. ИнфоБЕРЕГ 2026»
Участники детально проработали приоритетные векторы развития: усиление защиты критической информационной инфраструктуры (КИИ), масштабирование отечественных технологических решений и формирование стандартов безопасного применения искусственного интеллекта.
На Национальном промышленном Конгрессе обсудили шаги для достижения технологического суверенитета страны
12 октября состоялся Национальный промышленный Конгресс PromSpace – главная дискуссионная площадка для обсуждения актуальных вопросов по формированию актуальной промышленной повестки в России, поддержке отечественных производителей, повышению их конкурентоспособности, а также содействию бизнес-инициативам в разработке, производстве и экспорте высокотехнологичной продукции.