Deep Utopia: Life and Meaning in a Solved World

Итак, это все... Нет, подождите, есть еще один возможный вид ограничения, который мы должны упомянуть. Мы можем иметь явление, аналогичное пруденциальным барьерам, о которых я говорил ранее, за исключением того, что препятствие возникает из этических, а не эпистемологических факторов, и поэтому мы можем рассматривать его как аксиологическое ограничение утопии, вытекающее из внутренней природы наших ценностей, а не как внешнее ограничение.

Идея заключается в том, что могут существовать результаты, которые осуществимы во всех других отношениях и очень желательны, но которых мы не можем достичь с моральной точки зрения.

Это легче всего понять, если мы рассмотрим этическую систему, включающую деонтологические принципы. Например, некоторые люди могут считать (на мой взгляд, ошибочно), что существует абсолютный моральный запрет на использование генной инженерии для расширения человеческих возможностей. Предположим, что аналогичный запрет распространялся бы и на любые другие технологии, позволяющие достичь сопоставимых результатов (возможно, на том основании, что все они подразумевают "игру в Бога"). Тогда может оказаться, что даже если исход, при котором люди или постлюди будут наслаждаться счастливой жизнью с расширенными возможностями, будет предпочтительнее нынешнего мира и, возможно, любого альтернативного будущего, для нас не существует морально допустимого пути к этому превосходному результату.

Такой же моральный тупик может возникнуть и в чисто последовательной этике, что в еще большей степени аналогично случаю с пруденциальными барьерами. Мы можем оказаться в ситуации, когда существует некий неустранимый риск при совершении определенного шага, необходимого для достижения максимальной утопии. Риск может быть настолько мал, что с пруденциальной точки зрения - поскольку мы рассматриваем только плюсы и минусы для себя или для всех ныне существующих людей - выгоды перевешивают риски; таким образом, пруденциального барьера не существует. Однако если мы рассматриваем более широкий набор плюсов и минусов - например, возможное предотвращение рождения будущих поколений или потенциальный вред для внеземных или других нечеловеческих существ, - риски перевешивают выгоды; таким образом, возникает моральный барьер. В этом случае барьер возникает из-за сочетания неудачных этических и эпистемологических обстоятельств: мы можем предположить, что этот шаг на самом деле безопасен и его стоит предпринять с точки зрения наших собственных интересов; однако он морально недопустим, поскольку мы не можем знать, что он безопасен, с достаточной уверенностью, чтобы снизить риски для других заинтересованных сторон до приемлемого уровня.

Или другой, более простой вариант: возможно, для нас морально недопустимо использовать какие-либо ресурсы для построения утопии для себя, потому что те же самые ресурсы могут быть использованы другими людьми, которые имеют на них более сильные моральные притязания. (Например, "сверхбенефициары", или более могущественные?)

Думаю, в этом контексте различие между диктатом этики и диктатом благоразумия может оказаться несколько размытым. Но и то, и другое в принципе может удержать нас от коллективного пути к утопии. На индивидуальном уровне у нас тоже могут быть свои знаки остановки или места, где мы выходим из автобуса - возможно, по духовным или религиозным соображениям.

Я не думаю, что опасения такого рода являются чисто гипотетическими. Но я надеюсь, что они не будут решающими и что будет найден путь.

Метафизика

Вот вам и аксиологические контуры. Какие еще границы мы можем определить для пространства утопических возможностей? До сих пор мы рассматривали, какие технологии доступны на этапе технологической зрелости, каковы объемы доступных ресурсов, каковы возможности постоянных проблем координации, пруденциальных барьеров и ограничений, вытекающих из природы наших ценностей. Следующая категория, на которую я хочу обратить внимание, включает в себя ограничения, вытекающие из метафизических фактов.

Например, предположим, что вы хотите создать так называемого "философского зомби", или "p-зомби". Это будет существо, физически идентичное обычному человеку, которое, следовательно, ведет себя и говорит точно так же, как человек, но при этом не имеет сознания. В философской литературе ведутся споры о том, действительно ли p-зомби мыслимы, и если да, то возможны ли они в других соответствующих смыслах. Многие философы - особенно среди тех, кто принадлежит к числу вычислителей, - утверждают, что p-зомби метафизически невозможны. Другие, даже если они признают, что p-зомби метафизически возможны - к ним относится большинство дуалистов, - утверждают, что они номологически невозможны (это значит, что какие бы психофизические связующие законы ни существовали, они исключают возможность создания p-зомби в нашей вселенной). Если одна из этих философских точек зрения верна, то даже если желание иметь p-зомби концептуально обосновано, создать их будет невозможно даже для технологически развитой цивилизации.