Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Третья волна споров, вызванных теорией интегральной информации, поднялась в связи с вопросом, может ли сознательная сущность быть построена из частей, каждая из которых по отдельности тоже сознательна. Например, может ли общество в целом обрести сознание, так чтобы составляющие его люди не лишились своего? Может ли обладающий сознанием мозг состоять из частей, каждая из которых тоже сама по себе обладает сознанием? Теория интегральной информации отвечает категорическим «нет», но это не всех убеждает. Например, некоторые пациенты, у которых повреждения резко снижают возможность взаимодействия между полушариями, страдают от синдрома чужой руки, когда правое полушарие их мозга вынуждает левую руку делать что-то такое, чего они сами не хотят и даже не понимают — иногда до такой степени, что используют другую руку, чтобы удерживать ею «чужую». Как мы можем быть уверены, что в них нет двух отдельных сознаний, одно из которых размещено в правом полушарии, не способном говорить, а другое в левом полушарии, контролирующем речь и утверждающем, что контролирует и оба полушария? Представьте себе будущую технологию, устанавливающую прямую связь между мозгом одного человека и мозгом другого, и представьте себе, что она совершенствуется до тех пор, пока не станет возможной коммуникация между двумя полушариями одного мозга. Наступит ли такой момент, когда два отдельных сознания внезапно исчезнут и вместо них появится одно общее, как предсказывает теория интегральной информации, или переход будет проходить постепенно, так, что индивидуальные сознания будут сосуществовать в каком-то виде и даже формировать совместные переживания?

Еще одна увлекательная дискуссия развернулась вокруг подозрения, что в экспериментах недооценивается истинный уровень нашего осознания. Мы уже видели, что как бы мы ни были уверены в том, что полностью отдаем себе отчет относительно всех свойств окружающих нас предметов — их цвета, формы, взаимного расположения — в то время, когда смотрим на них, эксперименты обнаруживают нашу весьма незначительную способность все их запомнить и потом о них отчитаться^{122}. Некоторые исследователи пытались устранить это несоответствие, предполагая, что иногда у нас может быть «сознание без доступа», то есть субъективное восприятие вещей, которые оказываются слишком сложными для сознания, чтобы вписаться в рабочую память и использоваться в дальнейшем^{123}. Например, когда у вас случается «слепота от невнимательности»: вы слишком отвлечены на другое, чтобы заметить предмет, который лежит прямо перед вами на виду, это вовсе не означает, что у вас нет осознанного визуального восприятия, просто образ этого предмета не сохранился в вашей рабочей памяти^{124}. Не следует ли отнестись к этому скорее как к забывчивости, а не как к слепоте? Другие исследователи не согласны с тем, что мы можем не доверять рассказам людей об их чувственном опыте, предупреждая о последствиях такого недоверия. Мюррей Шанахан смоделировал клиническое расследование, в ходе которого пациенты сообщают о полном избавлении от боли благодаря новому чудо-лекарству, которое, тем не менее, отклоняется правительственной комиссией: «Пациентам только кажется, что им не больно. Благодаря достижениям нейробиологии мы знаем лучше»^{125}. Но с другой стороны, известны случаи, когда пациенты случайно просыпались во время операции и им давали сильнодействующие препараты, чтобы заставить забыть о пережитом. Должны ли мы и в этом случае доверять их сообщениям, что они не испытывали никакой боли^{126}?

Что может чувствовать искусственный интеллект, обладая сознанием?

Если какая-то будущая система с искусственным интеллектом окажется обладающей сознанием, каковы могут быть ее субъективные переживания? В этом вопросе суть «еще более трудной проблемы» сознания, и это заставляет нас переместиться на второй уровень сложности (рис. 8.1). Мы не просто лишены в настоящее время какой-либо теории, позволяющей ответить на этот вопрос, но мы вообще не уверены в существовании логической возможности полностью на него ответить. В конце концов, как мог бы звучать удовлетворительный ответ? Как вы объясните слепому от рождения человеку, на что похож красный цвет?