Deep Utopia: Life and Meaning in a Solved World

Подобная блокировка может распространяться шире, чем просто предотвращение создания бессознательных существ, физически идентичных нормально сознающим людям. Также может оказаться метафизически невозможным создать существ, которые в целом достаточно разумны или способны пройти достаточно строгий тест Тьюринга, не заставив их тем самым обладать сознательным опытом.

(Вы все слышали о тесте Тьюринга, верно? Хорошо.)

Если эти вещи метафизически (или номологически) заблокированы, то определенные концепции утопии не могут быть реализованы. Например, было бы удобно иметь возможность создавать сущности, неотличимые от обычных людей, но не обладающие сознанием, поскольку это, возможно, позволило бы нам избежать некоторых моральных осложнений. Подумайте, насколько сложнее было бы работать автору, если бы персонажи ее романов, просто будучи воображаемыми автором или читателем, тем самым сами переживали феноменальные состояния. Это могло бы сделать морально неприемлемым написание трагедий и историй о горе.

Можно вспомнить и другие метафизические факты, помимо тех, что связаны с феноменальным опытом, которые могут аналогичным образом усложнить утопические построения. Например, у нас есть понятие морального статуса (он же "моральное положение", или "моральное терпение"). Это идея о том, что некоторые существа обладают свойствами, которые делают их достойными морального отношения ради них самих: их благополучие, интересы, предпочтения или права должны учитываться в наших решениях и суждениях, и к ним следует относиться не просто как к средству, а как к самоцели.

Философы разработали различные концепции того, что наделяет существо моральным статусом. В некоторых из них сознание (или способность к сознанию) не является необходимым условием для обладания моральным статусом. Хотя наличие способности к страданию, по общему признанию, является достаточным условием для обладания хотя бы некоторой формой морального статуса, могут существовать альтернативные атрибуты , которые могли бы обосновать моральный статус - например, наличие сложного представления о себе как сохраняющемся во времени; способность к агентству и реализации долгосрочных планов; способность общаться и реагировать на нормативные причины; наличие предпочтений и полномочий; нахождение в определенных социальных отношениях с другими существами, имеющими моральный статус; способность брать на себя обязательства и вступать во взаимные соглашения; или наличие потенциала для развития некоторых из этих атрибутов. Если моральный статус может быть основан на любом из этих признаков, то появится дополнительный класс существ, которые не могут быть созданы без вступления в силу моральных обязанностей, которые могут ограничивать использование этих существ или обращение с ними.

Другие типы метафизических или номологических фактов, которые ограничивают диапазон утопических видений, реализуемых даже в принципе, связаны с условиями личной идентичности или со связью определенных видов опыта и субъективного опыта усилий. Мы вернемся к этим вопросам в последующих лекциях, поэтому сейчас я не буду подробно останавливаться на них.

Что машины не могут сделать за вас

Последний набор ограничений, о которых я хочу поговорить сегодня, - это ограничения на автоматизацию. Они актуальны в нескольких отношениях. Если смотреть на них с одной стороны, то можно сказать, что они ограничивают то, чего мы можем достичь, передав выполнение задач машинам. Если посмотреть с другой стороны, то эти же ограничения определяют, какие задачи нам еще предстоит выполнить. Последнее важно, поскольку мы имеем дело с проблемой цели, о которой говорили Гейтс и Маск. Мы вернемся к этому завтра, но я просто хотел сказать, что пределы автоматизации могут - парадоксальным образом - представлять проблемы для утопического видения в обоих случаях: не позволяя нам разгрузить машины, так что мы должны продолжать нести это бремя сами; или позволяя нам разгрузить машины, так что мы становимся бесполезными и безработными.

Помимо того, что это имеет отношение к данной дилемме, нас также может интересовать вопрос о том, какая работа останется для нас в будущем (если все пойдет хорошо), и сбудется ли предсказание Кейнса о 15-часовой рабочей неделе или, возможно, о каком-то еще более экстремальном состоянии, когда мы вообще не будем работать.

Прежде всего, я хотел бы сделать одно предварительное замечание: люди иногда недооценивают то, что требуется для полной автоматизации работы.

Например, кто-то может посмотреть на диджея и сказать: "У нас уже есть технология, чтобы автоматизировать это. Мы можем запрограммировать трек-лист, который будет играть в течение всего вечера, не требуя вмешательства человека". Сделав такое заявление, а затем заметив, что диджеи-люди все еще работают, можно сделать вывод, что даже когда работа станет автоматизированной, во многих случаях ее по-прежнему будут выполнять люди.