Deep Utopia: Life and Meaning in a Solved World

Даже если бы вы использовали самый целеустремленный и бескомпромиссный подход к перестройке себя для достижения оптимальной производительности - такой, который не обращает внимания на качество жизни ни в процессе оптимизации, ни впоследствии, - все равно может оказаться невозможным сохранить конкурентоспособность с машинами, созданными de novo для этой цели. На самом деле, я бы сказал, что, скорее всего, оптимальный вклад, который человек может внести в выполнение практических задач на этапе технологической зрелости, будет заключаться не в улучшении собственных возможностей и последующей самостоятельной работе над этими задачами, а в пожертвовании сначала всех своих финансовых ресурсов, а затем и материи, составляющей его тело и мозг, на создание и эксплуатацию систем, оптимизированных для выполнения поставленных задач. Другими словами, при достижении технологической зрелости ваша наибольшая практическая польза будет заключаться в том, что вы станете сырьем для машин. Не совсем "достоинство труда" пролетариата прошлых лет, но, возможно, вы сможете претендовать на славу, когда ваши атомы будут использованы для формирования сегмента охлаждающей трубы в дата-центре, где работает ИИ, рассчитывающий траектории развертывания горнодобывающего оборудования.

Один из моих друзей - тот, что никогда не скучает, - много лет назад признался мне, что хочет стать протоколом передачи информации. Знаете, как стандарты TCP/IP, на которых работает интернет, или код ДНК, или латинский алфавит. Эффект блокировки может сделать такие протоколы чрезвычайно долговечными. Даже развитой цивилизации будет непросто скоординировать свой выход из локального оптимума глобального неоптимального стандарта. Например, мы по-прежнему используем (якобы) медленную раскладку клавиатуры QWERTY спустя много десятилетий после того, как люди перестали пользоваться механическими печатными машинками; а некоторые страны даже продолжают придерживаться имперской системы единиц измерения.

Мой друг полагает, что если он сможет стать новым стандартом, то сможет наслаждаться большим долголетием. Что ж, теперь мы видим, что эта судьба может дать ему не только великое долголетие (которое, надеюсь, будет доступно каждому в утопии), но и большую практическую пользу, а значит, и цель. Я имею в виду, насколько полезен протокол TCP/IP? Очень. Поэтому мы можем представить себе какой-нибудь более продвинутый протокол передачи информации будущего, возможно, алгоритм сжатия, для вычисления которого требуется разумная умственная деятельность, и мой друг мог бы стать чем-то подобным. Вы насмехаетесь - но по сравнению с некоторыми другими формами "бессмертия", которых жаждали люди, например, с оттиском их изображения на почтовой марке, эта судьба может иметь более весомые претензии на то, чтобы представлять собой реальный вид выживания и сохранения личной идентичности!

Я говорю наполовину в шутку, наполовину всерьез. Можно было бы сказать и больше, но нам лучше двигаться дальше: у нас впереди еще много интересного.

Студент: Могу я задать вопрос?

Бостром: Стреляйте.

Студент: Я немного запутался. Я думал, что ключевым преимуществом перехода к цивилизации после дефицита будет то, что мы сможем делать всевозможные вещи, которые не являются "оптимальными с точки зрения задач", но все равно интересны. Например, я хочу создать свой собственный космический корабль, даже если он будет не таким быстрым и эффективным, как созданный сверхразумным ИИ. Почему мы все еще должны все оптимизировать, когда у нас есть достаточно и даже больше, чем достаточно, чтобы удовлетворить все наши потребности? Возможно, это глупый вопрос.

Бостром: По моему опыту, когда кто-то задает, как ему кажется, "глупый вопрос", это обычно вопрос, который многие люди в аудитории втайне надеялись задать кому-то другому. Может быть, по этой причине все лекции должны проходить в темноте! Это поможет справиться и с противоположной проблемой - "умными вопросами", которые задают не потому, что кто-то хочет знать ответ, а потому, что задающий их выглядит хорошо, потому что задал их. Хотя, если подумать... я не уверен, что случится с моей профессией, если этот стимул исчезнет. Так что, возможно, лучше оставить все как есть.

Ну, утописты не обязаны оптимизировать все! Конечно, не в этом смысле. Если немного упростить, то наша заданная риторическая ситуация выглядит примерно так: В пластиковой утопии есть много вещей, которые мы хотим иметь; много ценностей, которые мы могли бы реализовать в очень высокой степени. Это здорово! Среди плюсов такого состояния можно назвать то, что у нас будет много времени, чтобы наслаждаться своими увлечениями. На самом деле, в этом состоянии было бы так много действительно хороших вещей, что возникает интересный вопрос: есть ли что-то ценное, чего мы не можем иметь? И в частности, есть ли что-то ценное, что у нас есть сейчас, но от чего мы обязательно откажемся в утопии?