Deep Utopia: Life and Meaning in a Solved World

Итак, что мы имеем на данный момент? У нас есть идея, что определенные формы интересности, связанные с развитием или обучением, могут быть максимизированы на траектории, которая является менее чем максимально быстрой: такой, где мы тратим некоторое время на использование возможностей, доступных на данном уровне когнитивных способностей, прежде чем переходим на следующий уровень. У нас также есть идея, что если мы хотим быть в числе бенефициаров утопии, мы можем снова предпочесть траектории, которые включают менее чем максимально быстрое повышение наших способностей, потому что таким образом мы можем сохранить более сильную степень личной идентичности между нашими текущими временными срезами и временными срезами (некоторых) существ, которые населяют долгосрочное будущее.

Обе эти идеи говорят в пользу более медленного темпа вознесения. Есть ли у нас что-нибудь с другой стороны - соображения, которые говорят в пользу ускорения?

Студент: Если мы будем ждать слишком долго, мы можем вымереть. На нас может упасть астероид.

Бостром: Ну, да, и есть риски посерьезнее астероидов, о которых стоит беспокоиться. Но здесь я хочу вынести за скобки практические соображения такого рода. Предположим, что мы достигли состояния, в котором и наша цивилизация, и мы сами как индивидуумы достигли адекватного уровня безопасности - мы перестали умирать направо и налево, и достигли очень приличного качества жизни. Под "мы" я подразумеваю всех, включая нечеловеческих животных и цифровые разумы; и мы достигли постинструментального состояния, в котором наши собственные усилия в любом случае не имеют инструментального значения. Я хочу сосредоточиться на ценностном вопросе. Всегда ли медленный темп вознесения будет лучше, или есть что-то по ту сторону баланса?

Кто-нибудь? Что, если мы никогда не будем расширять свои возможности?

Другой студент: Тогда мы никогда не узнаем, на что похожа жизнь постчеловека.

Бостром: Верно. И даже если мы в конце концов улучшимся, но будем ждать, пока вселенная не исчерпает свой запас энергии, мы не сможем испытать это очень долго, верно? В более общем смысле, если мы считаем, что многие ценности могут быть воплощены в нашей жизни в гораздо более высокой степени, когда мы станем постчеловеком, то чем дольше мы ждем, тем больше этого более высокого уровня благополучия мы упустим.

Студент: Да.

Бостром: Но у Вселенной может быть достаточно пара, чтобы продолжать работать еще триллионы лет, и даже больше, если мы будем ответственно подходить к управлению. Так что если мы подождем, скажем, сто миллионов лет, то в процентном выражении это едва ли повлияет на то, сколько времени мы сможем прожить в постчеловеческом состоянии.

Можете ли вы назвать какую-нибудь причину, которая заставила бы нас двигаться гораздо быстрее?

Другой студент: А как насчет дисконтирования времени?

Бостром: А как же?

Студент: На уроках экономики нас учат, как дисконтировать будущие выгоды и затраты, чтобы рассчитать их чистую приведенную стоимость. Ставка обычно составляет около 5% в год. В принципе, то, что произойдет через миллионы лет, не имеет значения. Чтобы приведенная стоимость постчеловеческого существования была значительной, оно должно произойти гораздо раньше.

Бостром: При ставке дисконтирования в 5 % то, что произойдет даже через сто лет, будет иметь значение менее чем на 1 % больше, чем то, что произойдет в следующем году.

И то, что произойдет через 10 000 лет, будет иметь значение менее чем на 1% больше, чем то, что произойдет через 9 900 лет. Что кажется немного сумасбродным!

Я думаю, нам нужно быть осторожными в интерпретации временной ставки дисконтирования как утверждения о конечной стоимости. При обычном использовании ставка дисконтирования служит грубым косвенным показателем целого ряда эмпирических соображений, таких как альтернативные инвестиционные возможности (которые можно отследить по безрисковой норме доходности), ожидаемая инфляция, рост потребления или даже возможность смерти человека или полного краха экономической системы. Существует множество практических причин, по которым мы можем предпочесть получить определенную сумму денег сегодня, а не получить обещание получить ту же сумму в какое-то будущее время.

Но в дополнение к этим практическим факторам иногда предполагается, что ставка дисконтирования включает в себя "чистое предпочтение времени", отражающее своего рода неустранимое человеческое нетерпение, которое, как предполагается, имеет экспоненциальную функциональную форму.