Deep Utopia: Life and Meaning in a Solved World

i. NPC. Для того чтобы генерировать сенсорный ввод, который вы получаете при взаимодействии с другими людьми, эти другие люди могут быть реализованы как NPC ("неигровые персонажи"), под которыми я подразумеваю конструкции, отображающие некоторые атрибуты разумного существа, но не обладающие при этом феноменальным опытом или другими основаниями, которые наделили бы это существо моральным статусом. Это, несомненно, возможно в случае относительно неглубоких взаимодействий. Например, если вы хотите получить опыт задавания незнакомцу нескольких вопросов типа "сколько будет два плюс два?" и получения в ответ ответа типа "четыре", то метафизически возможно осуществить необходимые вычисления, не создавая никакого морально значимого существа (кроме себя). Но менее очевидно, что метафизически возможно создать полностью реалистичный опыт долгого, глубокого и насыщенного взаимодействия с другим человеческим существом без выполнения вычислений, эффективно реализующих сложный цифровой разум, обладающий моральным статусом. Это подводит нас ко второму пути создания опыта взаимодействия...

ii. ВПЦ. Под VPC ("виртуальными персонажами-игроками") я подразумеваю искусственные вычислительные конструкции, обладающие моральным статусом, например, потому что они обладают сознательным цифровым разумом. Использование VPC открыло бы очень широкий спектр возможностей взаимодействия, хотя механика реализации остается сложной. Например, в реальной жизни вы можете пройтись по многолюдной площади и завязать разговор с любым из тысяч встречных - в принципе, глубокий разговор, который может привести к дружбе или отношениям на всю жизнь. Поэтому аппарат супер-пупер ученых может включать в себя VPC-симуляторы всех этих людей (с большими вычислительными затратами). В качестве альтернативы можно использовать процедурную генерацию для создания VPC по требованию: изначально анонимные люди в толпе могут быть представлены как NPC, но если вы начнете глубокое взаимодействие, недостающие детали их разума будут заполнены, чтобы представить их как VPC, которые могут отвечать вам в полностью реалистичной манере. Такая сублимация NPC в VPC потребует большого объема вычислений - возможно, придется смоделировать целые детские и личные истории, чтобы создать полностью реалистичные VPC, с которыми вы собираетесь вступить в разговор.

Несмотря на то, что VPC технически позволяют генерировать очень широкий спектр опыта взаимодействия, использование VPC влечет за собой моральные осложнения. Возможно, вы не сможете получить определенный опыт в машине опыта, не нарушив этических ограничений, как это было бы во внешней реальности.

iii. ПК ("персонажи игроков", симулированные или оригинальные). Дополнительные этические сложности возникают, если вы хотите получить опыт взаимодействия с конкретными людьми из реального мира. Необходимо будет либо создать точные симуляции этих людей, либо подключить реальных людей к машине опыта, чтобы вы могли с ними взаимодействовать. В любом случае можно предположить, что реальный человек, о котором идет речь, имеет моральное право высказаться по этому поводу; и некоторые люди, предположительно, не согласятся взаимодействовать с вами таким образом. Более того, даже если они будут взаимодействовать с вами, они могут взаимодействовать не так, как вы хотите. Например, вы можете захотеть, чтобы конкретный человек из реального мира погладил вас по волосам, но, как правило, нет никакой гарантии, что этот человек заинтересован в этом - ни оригинальный человек, ни его точная симуляция. В случае с симуляцией технически возможно изменить симуляцию таким образом, чтобы она захотела вступить в тот тип взаимодействия, который вы ищете; однако без предварительного согласия данного человека это, вероятно, будет недопустимо с моральной точки зрения.

Была предложена "многопользовательская" версия машины опыта (в том числе самим Нозиком), в которой множество людей вместе подключаются к машине опыта. Это позволило бы нам вступать в реальные взаимодействия с другими реальными людьми, в том числе с конкретными существующими людьми, которые важны для нас, что устранило бы одну общую причину для отказа от входа в машину опыта. Однако при таком раскладе вы уже не сможете полностью контролировать свой опыт, поскольку теперь он будет зависеть от независимого выбора других людей. Таким образом, этот сценарий нарушает ключевую предпосылку оригинального мысленного эксперимента.