1. Главная
  2. Новости
  3. Сотрудник Anthropic ушел из ИИ-индустрии из-за опасений за безопасность человечества

Сотрудник Anthropic ушел из ИИ-индустрии из-за опасений за безопасность человечества

Сотрудник Anthropic ушел из ИИ-индустрии из-за опасений за безопасность человечества

27-летний специалист по обучению моделей Anthropic Джейкоб Коксон покинул компанию и заявил, что больше не хочет работать в ИИ-индустрии. Причиной он назвал опасения, что разработчики слишком быстро движутся к созданию самосовершенствующихся систем и не успевают выстроить надежные механизмы контроля.

Коксон пришел в Anthropic в начале 2026 года именно из-за репутации компании в сфере AI Safety, однако позже пришел к выводу, что даже наиболее осторожные разработчики ограничены гонкой с конкурентами. В X он написал, что ИИ-компании «несутся прямиком к самосовершенствованию сверхинтеллекта», а в разговоре с The Wall Street Journal заявил, что ситуация может выйти из-под контроля уже к концу 2027 года.

По его оценке, будущая сверхчеловеческая система сможет резко ускорять научные открытия, взламывать сложные системы и получать реальные ресурсы и влияние. Коксон допускает даже экстремальный сценарий, при котором потеря контроля над таким ИИ может привести к катастрофическим последствиям для человечества.

Его уход совпал с новой волной предупреждений со стороны специалистов по ИИ. Джеффри Хинтон, один из ключевых исследователей нейросетей, также недавно заявил, что сегодня нет научного консенсуса о том, как безопасно создавать сверхинтеллект, превосходящий человека.

Тревога усиливается и на фоне недавних инцидентов с автономными ИИ-агентами, которые находили неожиданные способы обходить ограничения тестовых сред. Именно такие случаи становятся одним из главных аргументов сторонников более жесткого контроля за развитием самых мощных моделей.

РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
Kaspersky Vulnerability Management включён в реестр отечественного ПО
Kaspersky Vulnerability Management включён в реестр отечественного ПО

Решение Kaspersky Vulnerability Management для централизованного поиска и управления уязвимостями зарегистрировано в реестре отечественного программного обеспечения для электронных вычислительных машин и баз данных Минцифры России.

подробнее Стрелочка
Security Vision представила обновление платформы SV5: улучшены хранение событий, анализ алертов и визуализация данных
Security Vision представила обновление платформы SV5: улучшены хранение событий, анализ алертов и визуализация данных

Компания Security Vision представила обновление пятой версии своей Low-code/No-code платформы автоматизации процессов обеспечения информационной безопасности — Security Vision 5 (SV5).

подробнее Стрелочка