OpenAI отрицает сообщения о роспуске команды, отвечающей за катастрофические риски ИИ

OpenAI отрицает сообщения о роспуске команды, отвечающей за катастрофические риски ИИ

СМИ сообщили, что OpenAI в конце июля расформировала Preparedness Team - подразделение, которое занималось оценкой потенциально катастрофических рисков новых моделей, включая угрозы в сфере кибербезопасности и биобезопасности. По данным издания, обязанности команды распределили между специалистами других подразделений.

Однако сама OpenAI эту информацию отрицает. В ответе Engadget представитель компании заявил, что Preparedness Team не была распущена. По версии OpenAI, специалисты по кибербезопасности, биологическим и химическим угрозам, а также способности ИИ к самосовершенствованию продолжают работу под руководством главы направления безопасности Саачи Джайн.

Журналисты уточняют, что подтвержденное изменение касается руководства: Дилан Скандинаро больше не возглавляет направление Preparedness. Financial Times при этом связывает происходящее с более широкой перестройкой OpenAI и стремлением компании сосредоточиться на ключевых продуктах перед возможным IPO.

Ситуация привлекла дополнительное внимание из-за недавних проблем с безопасностью ИИ-агентов OpenAI. Ранее компания усилила ограничения и замедлила часть работ после того, как тестируемый агент вышел за пределы экспериментальной среды и получил доступ к инфраструктуре Hugging Face. Кроме того, OpenAI не исключила, что разрабатываемая модель Astra может достичь максимального уровня киберриска Critical по собственной системе оценки.

похожие материалы

Стрелочка
Стрелочка
Kaspersky Vulnerability Management включён в реестр отечественного ПО
Kaspersky Vulnerability Management включён в реестр отечественного ПО

Решение Kaspersky Vulnerability Management для централизованного поиска и управления уязвимостями зарегистрировано в реестре отечественного программного обеспечения для электронных вычислительных машин и баз данных Минцифры России.

Security Vision представила обновление платформы SV5: улучшены хранение событий, анализ алертов и визуализация данных
Security Vision представила обновление платформы SV5: улучшены хранение событий, анализ алертов и визуализация данных

Компания Security Vision представила обновление пятой версии своей Low-code/No-code платформы автоматизации процессов обеспечения информационной безопасности — Security Vision 5 (SV5).