Deep Utopia: Life and Meaning in a Solved World

Конечно, мы могли бы сохранить за собой привилегию оригинальных открытий и творений, если бы запретили использовать ИИ для этих целей. Тогда мы уподобимся деревенскому лорду, который охотится в огороженном заповеднике и, возможно, еще больше искажает шансы в свою пользу, нанимая загонщиков, чтобы они загоняли дичь прямо на его пути, чтобы даже самый неумелый охотник мог принести домой большой трофей. В контексте науки будущего ИИ-помощники могут создать идеальные условия для открытия, сформулировать правильный вопрос, собрать нужные доказательства и разложить их по схеме, наводящей на размышления, при этом тщательно избегая очевидных выводов. Затем в дело вступает наш эсквайр, который просматривает материал в течение двадцати или тридцати секунд и - бац! - делает предположение. Он ошибается. Его помощник ИИ дает дополнительные подсказки; конечно, теперь эсквайр не может промахнуться. Бах! Снова ошибка. Еще подсказки и намеки. Бах! Бах! Бах! Бах! Наконец он понял, и тайна раскрыта. ИИ-ассистент составляет отчет о находке. Эсквайр указан как единственный автор, и именно ему принадлежит заслуга открытия.

Но на самом деле наши притязания на смысл при таком раскладе, как мне кажется, весьма слабы.

Давайте рассмотрим остальную часть (FT3), ту, где говорится о структуре повествования. Как утописты оценивают критерий жизни, в которой "худшие части вызывают лучшие части в конце, в процессе, который делает историю жизни убедительной и идеально оригинальной"?

Проблема оригинальности всплыла в нашем исследовании интересности на вчерашней лекции. В итоге мы пришли к выводу, что самое большее, на что мы можем надеяться в утопии, - это простая локальная уникальность. Но это справедливо и для нашего сегодняшнего состояния, и, тем не менее, этот факт нас мало беспокоит.

У меня есть еще несколько замечаний на эту тему. Существуют сценарии, в которых наша цивилизация становится все более многолюдной по мере того, как мы развиваемся в направлении утопии. Это может привести к сокращению даже наших локальных сфер уникальности.

Вы можете подумать, что все будет наоборот, если учесть, что при технологической зрелости пространство достижимых жизней значительно расширится. В настоящее время все человечество теснится в одном маленьком уголке пространства возможных разумов, но при достижении технологической зрелости мы могли бы рассредоточиться по гораздо большему объему. Утописты смогут модифицировать свой разум и тело самыми разными способами, и многие утописты решат исследовать различные регионы необъятных просторов постчеловеческих форм бытия. При прочих равных условиях можно ожидать, что это уменьшит скученность. Если люди будут принимать более разнообразные формы, каждая из них будет иметь тенденцию становиться более отличительной.

Однако этому противостоят другие факторы, которые, как правило, увеличивают скученность.

Одна из них - рост населения. Передовые технологии позволили бы осуществить великую экспансию, как экстенсивную (заселение новых территорий, в том числе в космосе), так и интенсивную (повышение плотности населения). Это становится особенно очевидным, если допустить радикальную возможность того, что мы не находимся в симуляции. Тогда существовали бы миллиарды доступных галактик, в каждой из которых были бы миллиарды звезд, каждая из которых могла бы поддерживать численность населения, в миллиарды раз превышающую население современной Земли (например, путем создания сферы Дайсона, питающей цифровые реализации), и каждая из этих звездных сред обитания могла бы существовать миллиарды лет.

В такой огромной популяции вероятность столкновения дизайнов будет возрастать. Иными словами, если мы выберем случайного человека и спросим, насколько он похож на другого человека: чем больше популяция, тем более похожим будет другой человек.

Так что если мы хотим быть уникальными в межгалактическом конклаве - во всей родословной землян, - то при таком астрономическом росте населения нам будет сложнее удовлетворить это желание. Конечно, если мы заботимся о том, чтобы быть уникальными только в рамках клики из сотни или около того людей, с которыми мы регулярно общаемся, и не возражаем против того, чтобы где-то там, в Магеллановых облаках, были двойники, делающие свои собственные очень похожие вещи, тогда размер населения планеты или даже размер человеческой диаспоры не имеет прямого значения. Тем не менее, увеличение численности населения ограничило бы те виды уникальности, к которым мы могли бы стремиться.