d/acc:Обзор и перспективы через год
Около года назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их потенциальных преимуществ, а также выразил осторожное отношение к некоторым конкретным вопросам, особенно касающимся проблем суперумного искусственного интеллекта. Если эту технологию построить неправильно, это может привести к разрушительным рискам или к тому, что человечество необратимо потеряет власть.
Одной из ключевых идей, которые я предложил в этой статье, является децентрализованная, демократическая и дифференцированная оборонительная акселерация. Это означает ускорение технологического развития, но с выборочным вниманием к тем технологиям, которые могут усилить наши оборонительные способности, а не разрушительные, и стремление распределить власть, а не сосредоточить её в руках немногих элит, позволяя им решать, что правильно, а что нет, от имени всех. Оборонительная модель должна быть похожа на демократическую Швейцарию и исторически близкую к анархистскому региону Зомия, а не на феодализм средневековья.