Deep Utopia: Life and Meaning in a Solved World

Допустим, у нас есть некоторое количество базовых физических ресурсов: комната, полная различных видов атомов, и некоторый источник энергии. У нас также есть некоторые предпочтения относительно того, как эти ресурсы должны быть организованы: мы хотим, чтобы атомы в комнате были расположены таким образом, чтобы составить стол, компьютер, хорошо сделанный камин и щенка лабрадудля. В полностью пластичном мире можно было бы просто произнести команду - предложение на естественном языке, выражающее желание, - и, вуаля, содержимое комнаты будет быстро и автоматически реорганизовано в желаемую конфигурацию. Возможно, вам придется подождать двадцать минут, возможно, через стены будет уходить немного тепла: но, открыв дверь, вы обнаружите, что все расставлено именно так, как вы хотели. На столе даже стоит ваза со свежесрезанными тюльпанами - то, о чем вы не просили, но что каким-то образом подразумевалось в вашей просьбе.

Аутопотенция

Важным частным случаем пластичности является то, что вы обладаете способностью изменять себя так, как вам хочется. В одной из своих ранних работ я назвал эту способность аутопотенцией. Автопотентное существо - это существо, обладающее полной властью над собой, включая свои внутренние состояния. У него есть необходимая технология и ноу-хау, чтобы использовать ее, чтобы изменить себя так, как оно считает нужным, как физически, так и ментально. Так, человек, обладающий автопотенцией, может с легкостью изменить себя так, чтобы испытывать мгновенную и непрерывную радость, или увлечься коллекционированием марок, или принять облик льва.

У этих понятий, пластичности и автопотенции, есть крайние случаи, которые я, несмотря на свою педантичность, не буду пытаться здесь точно очертить, поскольку они не имеют отношения к настоящему исследованию. Эта задача будет оставлена будущим экспликаторам.

Тессиус [шепчет]: Ваш пример с числом омега Хайтина указывает на один крайний случай, верно? Невозможно организовать нейроны для регистрации первой тысячи цифр, хотя сама констелляция, очевидно, физически возможна. Так скажем ли мы, что существо может быть совершенно автопотентным, не имея практической возможности достичь этой конкретной локальной конфигурации, или вместо этого мы скажем, что ни одно мирское существо не может быть совершенно автопотентным?

Кельвин [шепотом]: Ага.

Тессиус: Или, может быть, есть какой-то смысл, в котором эта конфигурация на самом деле не является физически возможной или диахронически осуществимой, в конце концов?

Агентурные осложнения и удача

Бостром: Условие пластичности не подразумевает, что каждый человек имеет неограниченную власть над своим окружением и самим собой. Это было бы невозможно в среде, населенной множеством агентов, поскольку иногда они могут иметь противоречивые предпочтения. Скорее, пластичность означает власть над природой. Она выражается в безусловной способности добиваться любого физически возможного результата в локальной среде только при отсутствии противодействия со стороны других наделенных властью агентов.

В мире, где существует множество агентов, преследующих порой противоположные цели, общее повышение пластичности не обязательно сделает кого-то лучше. Технологический прогресс может ухудшить положение всех нас, например, позволив легче и масштабнее совершать злодеяния.

Даже в отсутствие конфликтов или злонамеренности рост власти не является аксиомой. Власть можно использовать неосмотрительно. Я думаю, если мы хотим определить набор цивилизационных свойств, близкий к аксиоматически выгодному, он должен включать в себя по крайней мере три атрибута: не только власть над природой, но и сотрудничество с другими существами, а также мудрость.

И даже тогда это не является аксиомой. При большой мудрости и сотрудничестве технологический прогресс все равно может оказаться вредным, если нам не повезет. Мы можем с умом пойти на риск, который до этого стоил того, чтобы на него пойти, а после обнаружить, что это было ошибкой.

В зависимости от того, сколько морального содержания мы вкладываем в понятие мудрости, возможен и другой вариант плохого исхода событий, даже при наличии мудрости и сотрудничества, - если люди достаточно злы: тогда они могут успешно работать вместе, чтобы достичь какого-то злого результата.

Третий, более тонкий способ, с помощью которого максимальные технологии, мудрость и сотрудничество могут оказаться неоптимальными, - это если некоторые важные ценности сами требуют ограничения наших возможностей: например, если смысл нашей жизни будет в достаточной степени подорван условием пластичности. Но об этом подробнее позже.

Надежные траектории

Тем не менее, кажется правдоподобным, что общество, обладающее максимальными технологическими возможностями, максимальным сотрудничеством и максимальной мудростью, будет очень хорошим - уже утопическим или быстро приближающимся к этому, при условии, что оно не будет подвергаться внешней угрозе.