Туннель Эго

Наше внимание лучше бы направить на понимание и нейтрализацию нашего собственного страдания — это касается философии, равно как и когнитивной нейробиологии и области искусственного интеллекта. До тех пор, пока мы не станем существами более счастливыми, чем были наши предки, нам следует отказаться от любой попытки навязать структуру нашего ума системам с искусственным носителем. Я настаиваю на том, что нам следует ориентироваться на классическую философскую цель самопознания и придерживаться, по крайней мере, минимального этического принципа уменьшения и предотвращения страдания вместо безответственного зачатия эволюции второго порядка, которая может выйти из под контроля. Если и существует запретный плод в современных исследованиях сознания, то это беззаботное умножение страдания через создание искусственных Эго Туннелей без ясного понимания последствий.

Машины блаженства: является ли сознание, как таковое, хорошим опытом?

Сам по себе напрашивается следующий гипотетический вопрос: Если бы мы могли, с другой стороны, увеличить общее количество наслаждения и радости во вселенной, заселив её саморазмножающимися и блаженствующими постбиотическими Эго Машинами, должны ли мы были бы поступить так?

Предположение о том, что первые поколения искусственных Эго Машин будут напоминать умственно отсталых человеческих младенцев и принесёт больше боли, смятения и страдания чем удовольствия, радости или понимания во вселенную, может оказаться эмпирически ложным по некоторым причинам. Такие машины могут функционировать значительно лучше, чем мы предполагаем, и могут радоваться своему существованию в гораздо большей степени, чем мы предполагаем. Или, как агенты ментальной эволюции и инженеры субъективности, мы можем просто позаботиться о том, чтобы сделать такое допущение эмпирически ложным, конструируя только такие сознательные системы, которые не будут способны ни к феноменальным состояниям вроде страдания, ни к наслаждению существованием в гораздо большей степени, чем это имеет место быть у людей. Представьте, что мы смогли убедиться в том, что позитивные состояния такой машины перевешивают негативные, то есть, что она переживает своё существование как нечто очень ценное. Давайте будем называть такую машину Машиной Блаженства.

Если бы в наших силах было заселить физическую вселенную Машинами Блаженства, должны ли мы были бы так поступить? Если наша новая теория сознания внезапно позволила нам отвернуться от старомодных биологических Эго Машин, скованных ужасами своей биологической истории, и обратиться к Машинам Блаженства — должны ли мы следовать возможности?

Возможно, нет. Дело здесь, скорее, в стоящем существовании или стоящей жизни, чем в субъективном переживании. Этика умножения искусственных или постбиотических систем не может быть сведена к вопросу о том, как именно выглядит реальность или существование системы для самой системы. Заблуждение может порождать блаженство. Неизлечимый пациент, больной раком, под воздействием высокой дозы морфина и улучшающих настроение препаратов может иметь очень позитивный образ себя, точно так же, как зависимые от наркотиков могут оставаться способными функционировать даже на финальных стадиях. Человеческие существа веками пытались превратиться из Эго Машин в Машины Блаженства, будь то посредством фармакологии или через принятие системы метафизических верований и практику изменяющих сознание техник. Почему, в общем, у них не получилось?