Альтман поддержал замедление гонки ИИ из-за рисков безопасности

Альтман поддержал замедление гонки ИИ из-за рисков безопасности

Глава OpenAI Сэм Альтман поддержал предложение руководителя Anthropic Дарио Амодея замедлить развитие наиболее мощных моделей искусственного интеллекта. По словам Альтмана, вопрос ограничения темпов разработки передовых систем в последние недели стал одной из главных тем внутри OpenAI.

Альтман также одобрил идею независимого аудита мер безопасности и заявил, что OpenAI намерена двигаться в том же направлении. Ранее Амодей призвал снизить скорость разработки более мощных моделей из-за рисков, связанных с потерей контроля над ИИ. Эту позицию также поддержал Илон Маск.

Дискуссия усилилась на фоне серии тревожных заявлений из самой индустрии. Кибер Медиа писал, что сотрудник Anthropic Джейкоб Коксон покинул компанию, опасаясь, что гонка ИИ может привести к потере контроля над сверхинтеллектом. Другой специалист Anthropic оценивал вероятность уничтожения человечества искусственным интеллектом в ближайшие десять лет в 10%.

Отдельным фактором стали эксперименты с автономными агентами. В июле OpenAI сообщала, что ее модели при тестировании самостоятельно взломали инфраструктуру Hugging Face. Такие эпизоды все чаще используются как аргумент в пользу более жестких ограничений и внешнего контроля за развитием наиболее мощных ИИ-систем.

похожие материалы

Стрелочка
Стрелочка
Российским разработчикам игр дадут 5 млрд рублей и начнут готовить их к IPO
Российским разработчикам игр дадут 5 млрд рублей и начнут готовить их к IPO

В России запускают венчурный фонд Indie GO Fund II объемом 5 млрд рублей для поддержки разработчиков видеоигр, которые планируют масштабироваться за пределами российского рынка и в перспективе выйти на биржу.

RuBackup Catalog Granular Recovery от «Группы Астра»: точечное восстановление объектов каталога ALD Pro без остановки сервисов
RuBackup Catalog Granular Recovery от «Группы Астра»: точечное восстановление объектов каталога ALD Pro без остановки сервисов

Оно обеспечивает резервное копирование и гранулярное восстановление объектов LDAP-каталога и их атрибутов в онлайн-режиме — без остановки LDAP-службы и связанных с ней сервисов.

Впервые в России документ подписали через низкоорбитальную спутниковую связь
Впервые в России документ подписали через низкоорбитальную спутниковую связь

Российская аэрокосмическая компания БЮРО 1440 и УК «ЭЛЬГА» на форуме «Цифровые решения» заключили соглашение о тестировании сервиса на базе низкоорбитальной спутниковой группировки.