Бумерит

– На самом деле мы не уверены, – ответил Дэн Уоллер. Он был классическим бумером: очень умный, настоящий идеалист, невероятно энергичный, слегка сумасшедший. Он был бы копией моего отца, если бы тот занялся компьютерами, вместо того чтобы спасать мир. Джоан знала Уоллера «целую вечность». Уоллер привёл с собой Мимуну, с которой только что познакомился в медиа-лаборатории и которая, как он уже несколько раз повторил, его просто сразила.

– Спроси о гиках и старых хрычах, – прошептала Джоан.

– Послушайте, Дэн, – я нервно улыбнулся, – доктор Хэзелтон и я хотели вас кое о чём спросить… и Мимуну, конечно, тоже, обязательно… я… потому что… Боже… не помешала бы нам помощь. В общем, Дэн, вы ведь знаете, что доктор Хэзелтон работает и занимается исследованиями в ИЦ.

– Ещё бы не знать.

– Тогда вот что. Допустим, мы создадим в суперкомпьютерах или в ботах интеллект, не уступающий человеческому.

– В искусственных интеллектах. – Мимуна смотрела прямо на меня, как будто мечтая подловить меня, когда я снова её не пойму.

– Это я и хотел сказать: в искусственных интеллектах. Но в остальной вселенной всё подчиняется законам эволюции, верно? Значит, когда искусственные интеллекты освободятся от нашей опеки, тогда, если они действительно будут самосознающими, умными и способными обучаться, им тоже придётся эволюционировать, так?

– Самостоятельно?

– Да, самостоятельно.

– Эй, ты что, с другой планеты? Это уже происходит, – сказала Мимуна. – Со времён маленькой милой компьютерной программы под названием «Жизнь».

– Вообще-то, нет, – осторожно возразил я. – Я говорю о действительно самосознающих ИИ. О настоящем самосознании. Сейчас все эволюционирующие программы просто подчиняются правилам, алгоритмам и кодам, навязанным им извне. А я говорю о том, что произойдёт, когда у ботов и ИИ появится внутренний мир, настоящее сознание. Когда они на самом деле поймут, что существуют, когда начнётся отсчёт их собственной истории самопознания, когда они узнают, что есть прошлое и, используя самосознание, станут творчески эволюционировать. Ничего подобного ИИ до сих пор не умеют, – сказал я и задержал дыхание, глядя на Мимуну.

– Ладно, наверно, ты прав, – сказала она. Её тон и манера внезапно переменились. Она посмотрела на Уоллера и нежнейшим голосом произнесла, – Дэн?

– Согласен.

– Значит, – продолжил я, – когда ИИ станут разумными, у них будет собственная эволюция сознания, верно?

– Верно, – хором ответили они.

– Тогда возникает следующий вопрос. Вероятно ли то, что эволюция кремниевого сознания будет иметь тот же паттерн, что и эволюция углеродного сознания?

– Нет, совсем другой, – не раздумывая ответила Мимуна. – Кремниевая эволюция начинается там, где заканчивается углеродная. Сознание сменит носитель с углерода на кремний и достигнет таких вершин, которые нам и не снились. Всё будет именно так, – с полной уверенностью заключила она.

– Не спеши, Мимуна, не спеши, – сказал Дэн. Он посмотрел на Хэзелтон, надолго замолчал, и я представил себе, как он пытается сопоставить все факты.

– Ты смотришь только на внешнюю сторону. – Я расплылся в улыбке. – Уилбер говорит о том, о чём мы не должны забывать: когда ИИ станут разумными, их сознание непременно начнёт эволюционировать. И ему придётся начать с самого начала, с чистого листа самосознания. Мы не можем запрограммировать более высокие стадии, чем начальная, потому что тогда это уже не будет началом собственного самосознания ИИ. Ты ведь об этом, да, Кен?

– Да, точно. Мы можем запрограммировать исходные условия, которые позволят ботам – ой, то есть искусственным интеллектам – обрести самосознание, но затем их сознание должно будет начать развиваться самостоятельно, отталкиваясь от базового уровня, иначе это сознание будет уже не их, а нашим. Короче говоря, началом этого сознания будет компьютерная версия пурпурного мема, – сказал я, глядя на Уоллера.

– Господи, блин, Иисусе, этот малыш прав! – воскликнул он.

– Но вы понимаете, что это означает? – спросил я. – Третий порядок, так? Третий порядок. За наносекунду. Ведь так?

– ГОСПОДИ БЛИН ИИСУСЕ! – закричал он.

– Хватит, пожалуйста, хватит, – Мимуна казалась оскорблённой.

– Мимуна, дело вот в чём, – начал я. – Мы не говорим о правилах и программах, которые мы загрузим в наши интеллектуальные машины. Мы говорим о внутреннем сознавании, которое появится у машин, когда они станут разумными.

Хлоя заёрзала на стуле.

– Я как бы типа вообще не понимаю, о чём вы.

– Ладно, вот простой пример. Сейчас ты обладаешь сознанием. У тебя есть сознание, так, Хлоя?

– Возможно, тебе лучше привести другой пример, – невозмутимо произнёс Джонатан.

Хлоя не обратила на него внимания.

– Да, сейчас у меня есть сознание.

– Если посмотреть изнутри, сознание – это очень простая вещь. Ты просто сознаёшь себя. Но это сознание частично зависит от очень сложной структуры мозга с миллиардами проводящих путей, о которых ты, в общем-то, ничего не знаешь, так?

– Так.