Более тысячи учёных, предпринимателей и общественных деятелей, включая Стива Возняка, Йошуа Бенжио и Джеффри Хинтона, подписали открытое письмо с призывом приостановить разработку сверхразумного искусственного интеллекта (ASI). Об этом сообщает издание TechSpot.
Письмо подготовила организация Future of Life Institute, ранее уже выступавшая с инициативами по регулированию ИИ. В документе авторы предупреждают, что создание систем, способных превзойти человека по уровню интеллекта, может привести к необратимым последствиям для человечества: от потери контроля над технологиями до угрозы физическому существованию людей.
Среди подписантов - не только учёные, но и политики, бизнесмены и деятели культуры, включая Ричарда Брэнсона, Стива Бэннона и представителей британской королевской семьи.
Авторы письма отмечают, что развитие искусственного интеллекта идет с «опасной скоростью» и не сопровождается адекватными механизмами регулирования. Они требуют временного моратория на исследования, направленные на создание ИИ, превосходящего человеческий уровень, до появления международных стандартов безопасности.
Письмо уже вызвало оживленные споры в ИТ-индустрии. Часть экспертов поддержала инициативу, отметив рост рисков, связанных с автономными системами. Другие считают, что ограничения могут затормозить прогресс и усилить технологическое неравенство между странами.