Воображаемая жизнь. Путешествие в поисках разумных инопланетян, ледяных существ и супергравитационных животных

Человеческий мозг силен в решении таких задач, как распознавание образов и оценка контекста высказываний – то есть именно тех, где компьютеры становятся в тупик. С другой стороны, где‐то существует компьютер, который знает по именам всех, кто завтра должен лететь рейсами United Airlines, – и с этой задачей не справится ни один человек. Мозг и компьютер имеют довольно разные сильные стороны. В результате они прекрасно работают вместе.

Основной рабочий элемент мозга – нейрон, основной рабочий элемент компьютера – транзистор. Обычный нейрон получает сигналы от других нейронов и каким‐то образом – как именно, мы, по правде говоря, не понимаем – решает, посылать ли ему самому сигнал соседним нейронам. На все это, включая очистку для дальнейших действий у нейрона уходит примерно миллисекунда. Современные транзисторы включаются и выключаются как минимум в миллион раз быстрее. Конечно, по человеческим стандартам фантастически быстро происходит и то и другое – но здесь мы просто приведем пример, позволяющий в полной мере осознать различие между одним и другим. Допустим, человек A (изображающий транзистор) может выполнить определенное задание за день. Допустим, человек B (нейрон) тоже может выполнить то же задание, но в миллион раз медленнее. Пусть человек A начал выполнять свое задание 24 часа назад. Вопрос: когда человек B должен был начать выполнять свое задание, чтобы закончить его одновременно с A? Ответ: за 770 лет до н. э., за несколько столетий до того, как в древнегреческих Афинах были сформулированы законы логики.

Отметим, наконец, что эндокринная система человека способна производить множество химических веществ, которые оказывают огромное воздействие на функционирование мозга. Представьте, например, что вы идете сдавать трудный экзамен сразу после разрыва с вашим женихом или невестой. (Будучи довольно старыми профессорами, мы оба можем засвидетельствовать, что такие вещи случаются намного чаще, чем вы думаете.) Так что, хотя и мозг, и компьютер имеют в своем составе системы, работающие на основе электрических импульсов, у мозга есть еще и химические рычаги управления.

Общий вывод из наших рассуждений таков: мы не можем рассматривать существующие сейчас компьютеры под тем же углом, под каким мы рассматриваем человеческий мозг. Эти две системы слишком уж различны. Это не значит, что, по нашему мнению, никому и никогда не удастся построить компьютер, достаточно сложный для того, чтобы его можно было бы счесть живым и разумным. Это далеко не так. Просто, если бы такой компьютер был построен, он не был бы представителем «Человечества 2.0», но имел бы совершенно иной вид разума, совершенно отличный от нашего. И хотя мы не можем даже приблизительно представить себе, на что такой разум мог бы походить, мы счастливы присоединиться к легиону писателей‐фантастов, которые рисуют роботизированные компьютеры будущего лишенными человеческих эмоций. Этот вывод, похоже, логически вытекает из отсутствия у компьютеров какого бы то ни было эквивалента эндокринной системы, которая может стать – а может и не стать – составной частью высокоразвитых машин будущего.

Будет ли развитие «сознательных» компьютеров означать конец человечества? В настоящий момент это один из самых распространенных апокалиптических сценариев. Большинство подобных антиутопий предполагают, что в какой‐то момент развития техники совершенные компьютеры достигнут технической сингулярности, станут разумными и поймут, как усовершенствовать свою конструкцию. Люди при этом, как мы уже говорили выше, этих изменений могут до какого‐то момента не замечать вовсе. Однако начиная с этого момента, как говорится во всех этих сценариях, машины начнут совершенствоваться с головокружительной скоростью, быстро выйдут из‐под контроля людей и погубят своих создателей. Мы можем назвать такой вариант развития событий «сценарием ученика чародея».

Наш любимый сценарий такого рода принадлежит философу из Оксфордского университета Нику Бострому и известен как «Вселенная скрепок». Допустим, что был создан искусственный интеллект, чья единственная функция – добывать материал из окружающей среды и превращать его в скрепки для бумаги. Он совершенствует себя до такой степени, что выходит из‐под контроля человека – и в конечном счете превращает в скрепки всю Вселенную, включая и создавшее его человечество. Важно понимать, что этот сценарий не подразумевает со стороны искусственного интеллекта никаких эмоций. Машина ни к кому не испытывает ненависти – просто‐напросто вы состоите из атомов, которые должны быть превращены в скрепки.

Как и большинство людей, мы любим фильмы‐катастрофы. С другой стороны, нам трудно заставить себя относиться к таким сценариям достаточно серьезно. В конце концов, они требуют от нас, чтобы мы поверили в существ, которые так далеко зашли по пути развития техники, что способны создать совершенные AI-машины, но при этом им не хватило ума предусмотреть в конструкции этих машин кнопку «ВЫКЛ».