Deep Utopia: Life and Meaning in a Solved World

Лучшее "состояние" в любом случае не является полностью статичным. Например, ментальная активность и феноменальный опыт требуют протекания мозговых процессов. Застывшее состояние мозга или просто снимок вычислительного состояния, хранящийся в памяти, не будет сознательным. Так что, строго говоря, это должны быть траектории; и вопрос лишь в том, является ли соответствующий временной масштаб, на который накладываются наши ценности, коротким (например, в масштабе секунды или около того, как это может быть в случае момента осознанного опыта) или длинным (например, в масштабе потенциально очень большой продолжительности жизни индивида или цивилизации).

Если и когда нам удастся вползти в состояние экзистенциальной безопасности, где мы защищены от экзогенного конкурентного давления, а также от косых стрел природы, то с этого момента нам стоит не спешить. Когда в мире есть все время, но есть лишь ограниченное количество значимых вещей, которые мы можем сделать впервые, мы, возможно, захотим тщательно контролировать запас новизны.

Это особенно верно в отношении новизны развития, то есть новых уровней общих возможностей, которые мы могли бы открыть с помощью технологий усовершенствования. Есть две причины, по которым на них следует особенно экономить. Во-первых, потому что общее число возможных повышений уровня наших общих способностей (на определенную процентную величину), скорее всего, будет довольно небольшим (если бы вы каждый день увеличивали свой мозг на 10 %, вы бы испытали гравитационный коллапс всего за несколько лет). Во-вторых, потому что увеличение общего потенциала позволяет нам быстрее истощать некоторые области, связанные с проблемами окружающей среды. Например, многие игры, в которых вы или я можем найти источник стимулирующего вызова, которые могли бы с удовольствием развлекать нас в течение многих зимних дней, будут неинтересно тривиальными для сверхинтеллекта, который с первого взгляда определяет оптимальную стратегию. Поэтому, возможно, нам не следует торопиться, чтобы извлечь из этих игр удовольствие и интерес, прежде чем мы поднимемся на новый уровень когнитивных способностей. В утопии, возможно, было бы ошибкой торопиться со взрослением.

Я говорю "возможно", потому что существуют и неразвивающиеся формы интересности - интересности калейдоскопического вида, - которые мы могли бы испытывать на значительно более высоком (но бесконечно устойчивом) уровне, будучи постчеловеческими сверхсуществами. Существуют и другие ценности, помимо интересности, которые мы могли бы более полно воплотить в своей жизни, когда у нас появится больше возможностей и мы станем более развитыми; удовольствие - лишь самая очевидная из них. Поэтому совсем не очевидно, что отложенное вознесение, с учетом всех обстоятельств, предпочтительнее. Постчеловеческая жизнь может быть настолько хороша, что даже если путь к ней будет весьма живописным, пролегающим через очаровательную сельскую местность с лугами и садами, было бы глупо хоть немного сбавить темп или остановиться, чтобы понюхать цветы: возможно, нам следует просто постараться добраться туда как можно быстрее.

Тессиус (шепотом): Дальнобойщики называют это "домашней скоростью".

Фирафикс [шепчет]: Поэтично.

Тессиус (шепотом): Но в бутылках с соком приличия выходят за рамки.

Бостром: И все же, чем длиннее будет наша жизнь, тем более правдоподобно, что жизненный путь, который оптимально реализует паноптикум наших ценностей, будет таким, который отводит некоторый начальный отрезок нашего времени для наслаждения существованием в качестве менее чем максимально развитых существ. Этот начальный отрезок может быть очень коротким по сравнению с общей продолжительностью жизни постчеловека, но он может быть длинным по сравнению с продолжительностью обычной человеческой жизни.

Идентичность, выживание, трансформация, дисконтирование

Есть еще одна причина, по которой мы можем захотеть ускорить свой путь к утопии, когда мы достигнем экзистенциальной безопасности как в индивидуальном, так и в цивилизационном плане. Эта причина более общая: она относится не только к ценности интересности, но и к другим ценностям, которые мы можем пожелать реализовать в своей жизни.

Предположим, что вы внезапно превратились в мозг Юпитера. Если бы вы внезапно превратились в такое существо, трудно представить, как вы могли бы избежать серьезного разрушения своей личной идентичности в процессе. Достаточно сложно понять, как такая трансформация может сохранить личную идентичность, если она происходит очень медленно и постепенно; но если сжать ее до субъективно короткого промежутка времени, это может неизбежно разорвать нити благоразумной заботы, которые связывают наших нынешних "я" с будущими субъектами, которыми мы, возможно, надеемся стать.

Рассмотрим следующий мысленный эксперимент:

Резкое созревание