
Открытое письмо от экспертов по искусственному интеллекту появилось на сайте Future of Life Institute. В нем более тысячи авторов призывают остановить обучение всех нейросетей мощнее GPT-4 как минимум на полгода. В более мощных сетях эксперты увидели угрозу человечеству.
Под письмом поставили подписи глава Tesla Илон Маск и сооснователь Apple Стив Возняк. Есть там и подписи Стивена Расселла и Иошуа Бенджио — ведущих экспертов в области ИИ.
Необходимость немедленной приостановки обучения мощных нейросетей эксперты объясняют необходимостью выработки единой политики безопасности. Они призвали объявить о приостановке обучения сетей публично и проверять соблюдение игроками рынка этой паузы. В письме отмечается, что если компании не смогут договориться о подобном перерыве в кратчайшие сроки, в дело следует вмешаться правительствам. В этом случае авторы письма призывают ввести мораторий на обучение мощных нейросетей.
Лабораториям по обучению искусственного интеллекта и независимым экспертам такой перерыв предлагают использовать для совместной работы. Следует создать и внедрить общие протоколы безопасности, по которым будет контролироваться обучение ИИ в дальнейшем.
Нажимая на кнопку, я даю Согласие на обработку персональных данных в соответствии с Политикой обработки.