OpenAI зашифровала часть внутренних инструкций Codex и вызвала спор о прозрачности ИИ-агентов

OpenAI зашифровала часть внутренних инструкций Codex и вызвала спор о прозрачности ИИ-агентов

Пользователи Codex обратили внимание на изменение в работе многоагентного режима OpenAI Codex. В GitHub-репозитории проекта появился issue, где говорится, что после обновления MultiAgentV2 сообщения между основным агентом и субагентами стали отображаться в истории не как читаемый текст задачи, а как зашифрованный payload.

Речь идет о spawn_agent, send_message и followup_task. Автор issue утверждает, что после изменения разработчик уже не может нормально проверить, какую именно команду основной агент передал дочернему агенту, зачем был создан отдельный поток и почему он выполнил ту или иную задачу. По его словам, проблема не в самом шифровании, а в исчезновении локального читаемого audit trail.

Пользователи предлагают компромисс: оставить зашифрованную доставку для модели, но дополнительно сохранять отдельную читаемую копию задания для аудита, отладки и разбора сессий. В issue описан вариант encrypted_with_audit, при котором сообщение для модели остается зашифрованным, но в локальной истории сохраняется понятный текст делегированной задачи.

OpenAI публично не объясняла, зачем именно внедрила такую схему. Специалисты предполагают, что причина может быть связана с защитой внутренних команд от дистилляции конкурентами или с требованиями конфиденциальности. Сама OpenAI ранее описывала Codex как агентный инструмент для разработки, который может выполнять задачи в кодовой базе, запускать проверки и предлагать изменения для ревью.

Инцидент показывает новую проблему вокруг ИИ-агентов для программирования. Чем больше агент действует автономно и делегирует задачи другим агентам, тем важнее становится журнал действий. Без читаемой истории разработчику сложнее понять, что именно сделал инструмент, где возникла ошибка и не нарушил ли агент ожидаемые границы работы.

похожие материалы

Стрелочка
Стрелочка
В Германии предложили разрешить спецслужбам проводить превентивные кибератаки за рубежом
В Германии предложили разрешить спецслужбам проводить превентивные кибератаки за рубежом

Глава парламентского комитета по контролю за спецслужбами Германии Марк Хенрихманн предложил расширить полномочия разведки и разрешить ей проводить превентивные кибероперации против инфраструктуры, представляющей угрозу стране.

«Группа Астра» выходит на рынок Юго-Восточной Азии: российский вендор построит в Мьянме национальную систему «Единого окна»
«Группа Астра» выходит на рынок Юго-Восточной Азии: российский вендор построит в Мьянме национальную систему «Единого окна»

ООО «Астра Консалтинг» (входит в «Группу Астра») и уполномоченный государственный орган Республики Союз Мьянма подписали государственный контракт на создание Национальной системы «Единого окна» Мьянмы.

AI-мониторинг и управление PostgreSQL: «Тантор Лабс» представила платформу Tantor 7
AI-мониторинг и управление PostgreSQL: «Тантор Лабс» представила платформу Tantor 7

Компания «Тантор Лабс» (входит в «Группу Астра») первой в России последовательно внедряет в свои продукты AI-first подход, при котором возможности ИИ закладываются в их основу и определяют ключевые сценарии как функционирования систем, так и работы пользователей.