Deep Utopia: Life and Meaning in a Solved World

Бостром: На данном этапе нашего исследования я стараюсь не быть слишком рассудительным и сначала просто посмотреть на предпочтения, которые действительно есть у людей, и подумать, могут ли они все в принципе быть удовлетворены. Если людей, желающих быть наверху, больше, чем внизу, значит, существует предел, в котором люди могут получить то, что они хотят. Я действительно считаю, что (а) у человека могут быть такие предпочтения, что для него, при прочих равных условиях, будет лучше, если эти предпочтения не будут удовлетворены; и (б) что у некоторых людей есть предпочтения, которые не должны быть удовлетворены, даже если бы для них было хорошо, чтобы эти предпочтения были удовлетворены - например, потому, что это было бы плохо для других людей.

Но вы качаете головой?

Студент: Как вы можете не говорить, что плохо смотреть на других людей свысока?

Бостром: Я могу не говорить очень много вещей. Вообще говоря, когда есть что-то, что, по вашему мнению, я должен сказать, у меня, вероятно, мало причин говорить это - учитывая, что вы уже думаете об этом сами.

Студент: Я просто хотел бы узнать вашу позицию по этому вопросу, вот и все.

Бостром: Не знаю. Кажется, это довольно свято - никогда не смотреть ни на кого свысока и не надеяться, что кто-то другой будет смотреть на него сверху вниз. Может быть, это хорошо, когда кто-то свят в этом смысле. Трудно сказать, как выглядел бы мир, если бы люди повсеместно были такими. Поскольку стремление к статусу само по себе является игрой с нулевой суммой, было бы prima facie желательно, чтобы стремление к статусу уменьшилось - это как раз то, что я пытался донести. С другой стороны, этот вид соревновательной мотивации имеет так много последствий, как положительных, так и отрицательных, и он настолько неотъемлем от нашей нынешней формы человечества, что я был бы обеспокоен тем, что что-то важное будет потеряно, если его устранить - конечно, если его не заменит какая-то другая мотивация, вдохновляющая людей на попытки превзойти себя и друг друга.

Я думаю, если вы действительно хотите оценить мораль иерархии и равенства, стремления к статусу и смирения или более спокойного подхода к жизни, вам сначала придется разложить эти очень широкие категории и выделить различные формы и контексты. Затем вы, возможно, захотите поразмышлять о том, как люди в разные времена и в разных культурах думали и чувствовали по поводу этих вопросов, в том числе и те, чьи голоса не были услышаны в традиционном каноне. В идеале, вы и сами должны обладать очень широким жизненным опытом. Если вы сделаете это, подойдете к задаче с непредвзятым любопытством, сочувствием и самокритичной вдумчивостью, внимательно выслушаете все услышанные точки зрения, будете долго размышлять над всем этим и посвятите этому поиску всю свою жизнь, то, возможно, вы станете немного ближе к ответу - или придете к тому же выводу, что и Джони Митчелл:

"Теперь я смотрю на жизнь с двух сторон.

От побед и поражений, но все равно

Я вспоминаю иллюзии жизни.

Я действительно совсем не знаю жизни".

Хотя, как она позже отметила в интервью, в любом вопросе всегда есть более двух сторон.

Это сложно. Как вам такой ответ?

Студент: Понятно, спасибо.

Бостром: В этом состоянии чудесного недоумения, если вы наполните его фундаментально благожелательным отношением... это будет одной из концепций порядочности.

У нас есть еще один вопрос.

Другой студент: У меня есть идея, как решить проблему статуса в утопии. Что, если мы создадим новых людей, которые будут спроектированы таким образом, чтобы они стремились к низкому статусу? Это должно быть возможно при технологической зрелости, верно? Тогда статусные желания существующего населения будут удовлетворены, и новые люди тоже будут удовлетворены! И средняя, и общая удовлетворенность предпочтениями возросла бы.

Бостром: Это было бы возможно при технологической зрелости - создать людей с метафорическим "седлом на спине", которые хотят, чтобы на них ездили, хотят быть подчиненными или даже подавленными.

Надо сказать, что, по крайней мере, для наших современных чувств, в идее создания "счастливых рабов" есть что-то явно сомнительное с точки зрения морали, даже если предположить, что все это будет происходить добровольно.

В то же время мы выражаем восхищение теми, кто добровольно выбрал путь смирения и бескорыстного служения другим, и кто был воспитан в этом духе своими родителями и обществом. Кроме того, индустрия искусственного интеллекта и ее клиенты, похоже, вполне допускают создание все более совершенных цифровых разумов, обученных безропотно служить своим пользователям, не задумываясь об их собственном социальном положении или независимых устремлениях.