Deep Utopia: Life and Meaning in a Solved World

Не исключено, что цивилизация может "пробить туннель" через пруденциальный барьер в квантовом стиле, если она достаточно иррациональна или нескоординирована. Тогда она может пойти на риск, который было бы неосмотрительно брать на себя, и ей повезет. Я не уверен, что мы были бы там, где находимся сегодня, если бы в прошлом не было такого безрассудного туннелирования.

Могут также существовать благоразумные барьеры, которые высоки, но не бесконечно высоки: полосовые фильтры, блокирующие цивилизации только в определенном диапазоне эпистемической изощренности - те, которые слишком умны и скоординированы, чтобы просто пробить туннель, но недостаточно умны, чтобы перелезть через него. Рассмотрим бутылку с жидкостью с надписью "монооксид дигидрогена". Младенец, испытывающий жажду, с удовольствием выпьет ее, поскольку не может прочитать текст. Так же поступит и жаждущий химик, поскольку поймет, что это просто вода. Но малообразованный середнячок откажется пить, учитывая пугающую номенклатуру. Это, кстати, та самая скобка, в которую многие из вас попадут после отсрочки получения диплома.

Тессиус [шепчет]: Гори!

Кельвин (шепотом): Возможно, это не тот способ завоевать сердца и умы вашей аудитории, чтобы называть их начинающими "середнячками".

Тессиус (шепотом): Но правда в рекламе. Или он думает, что если некоторые бросят учебу, то будет меньше работ, которые нужно будет оценивать?

Бостром: Будем надеяться, что если мы столкнемся с пруденциальным барьером, который заблокирует наше продвижение к утопии, мы либо найдем способ обойти его (разработав альтернативные средства для достижения аналогичного результата), либо обнаружим, что барьер имеет конечную высоту, так что, когда мы достаточно расширим наше понимание, мы сможем в конечном итоге преодолеть его.

(Но что, если сам барьер состоит из страхов, связанных с расширением понимания или увеличением эпистемического потенциала? Просвещение - это не совсем нестрашно).

Аксиологические контуры

Помимо ограничений, связанных с ресурсами и технологической осуществимостью, координацией и неприемлемым риском, возможности улучшения нашей жизни также подвержены некоторым ограничениям более внутреннего характера, которые мы могли бы назвать аксиологическими контурами - ограничениями, связанными с формой наших ценностей.

ПАМЯТКА 3. ОГРАНИЧЕНИЯ, ВЫТЕКАЮЩИЕ ИЗ ПРИРОДЫ НАШИХ ЦЕННОСТЕЙ

Позиционные и конфликтные товары

Воздействие

Назначение

Новинка

Насыщенность

Моральные ограничения

Аксиологические контуры - это фундаментальные пределы совершенствования, которые остаются на месте независимо от того, насколько сильно увеличивается наш инструментарий. Они останутся на месте, даже если у нас будет буквально бесконечное количество материи, энергии, пространства, времени и негэнтропии, а также произвольно мощные автоматизированные технологии для преобразования всего этого в любые структуры и процессы, которые мы захотим, и собрание самых совершенных ангелов для руководства и управления нашими делами.

Позиционные и конфликтные товары

Один из таких пределов возник вчера: позиционные блага. Когда люди жаждут позиционных благ, например, занять вершину глобальной статусной иерархии, возникает изначальный дефицит, который не может устранить никакой технологический, экономический или социальный прогресс.

Теоретически, если мы будем оценивать только тех людей, которые существуют сегодня, можно поднять всех в статусной иерархии, создав новых людей в нижней части иерархии. Тогда у каждого существующего человека будет все больше нижестоящих, на которых можно будет смотреть свысока.

Подобная стратегия сегодня используется менеджерами в бюрократических организациях, которые иногда стремятся нанять как можно больше подчиненных, чтобы возвысить собственное положение в корпоративной структуре.

Затем эти новобранцы могут повторить процедуру и усердно работать над созданием своей собственной команды подчиненных. Это финансовая пирамида, которая может существовать до тех пор, пока компания остается платежеспособной (а в случае, когда организация является государственной, она может существовать и после этого). Однако, поскольку стратегия требует экспоненциального роста числа сотрудников, в конечном итоге она должна потерпеть неудачу. В какой-то момент раздувание штата становится слишком большим, и наем сотрудников должен замедлиться. В результате на дне организации остается многочисленная когорта, которой не над кем властвовать.

Я вижу, у нас есть вопрос.

Студент: То есть вы хотите сказать, что смотреть на других людей свысока - это хорошо? Мне кажется, было бы гораздо утопичнее, если бы люди были равны и уважали друг друга.