Более тысячи экспертов потребовали остановить обучение нейросетей

Открытое письмо от экспертов по искусственному интеллекту появилось на сайте Future of Life Institute. В нем более тысячи авторов призывают остановить обучение всех нейросетей мощнее GPT-4 как минимум на полгода. В более мощных сетях эксперты увидели угрозу человечеству.

Под письмом поставили подписи глава Tesla Илон Маск и сооснователь Apple Стив Возняк. Есть там и подписи Стивена Расселла и Иошуа Бенджио — ведущих экспертов в области ИИ.

Необходимость немедленной приостановки обучения мощных нейросетей эксперты объясняют необходимостью выработки единой политики безопасности. Они призвали объявить о приостановке обучения сетей публично и проверять соблюдение игроками рынка этой паузы. В письме отмечается, что если компании не смогут договориться о подобном перерыве в кратчайшие сроки, в дело следует вмешаться правительствам. В этом случае авторы письма призывают ввести мораторий на обучение мощных нейросетей.

Лабораториям по обучению искусственного интеллекта и независимым экспертам такой перерыв предлагают использовать для совместной работы. Следует создать и внедрить общие протоколы безопасности, по которым будет контролироваться обучение ИИ в дальнейшем.