«Если», 2002 № 02

Добавьте ко всему этому искусственный интеллект. Несмотря на все попытки пропаганды убедить вас в обратном, ИИ можно получить с вызывающей тревогу легкостью; человеческий мозг отнюдь не уникален, вовсе не так уж хорошо настроен, и совсем ни к чему иметь восемьдесят миллиардов нейронов, объединенных в асинхронную сеть, чтобы сформировать сознание. Хотя для наивного невежды идея может показаться прекрасной, на деле это совершенный крах. Мечтать об обществе, основанном на принципах автоматизации — все равно что строить в каждом городе заводы, работающие на ядерной энергии, и считать при этом, что не найдется какого-нибудь инженеришки, который выдвинет проект атомной бомбы.

Но с автоматизацией и компьютеризацией дело обстоит еще хуже. Представьте, что существует быстрая и грязная технология получения плутония в вашей ванне: как вы можете быть уверены, что сосед не сделает нечто подобное в своей и не разнесет дом? Если бы Ив, Маллет, я, Уолтер, Валери и еще куча оперативников не препятствовали бы этому…

Как только ИИ появится на промышленном уровне, он будет стремиться внедриться в главную систему, совсем как вирулентный вирус геморрагической лихорадки. Слабо функционирующий ИИ оптимизирует себя для того, чтобы приобрести быстродействие, затем поищет лазейку в законах алгоритмики первого порядка, вроде той, что обнаружил покойный доктор Дьюрант. Следующим этапом может считаться попытка самозагрузки на более высокий уровень интеллекта и распространения по сетям с целью захвата большей мощности, большего объема памяти и большего резервирования. В результате получаем неконтролируемое отступление сознания, иначе говоря, разрушение интеллекта. Остановить этот процесс почти невозможно. Следовательно, счет уже идет если не на дни, то на недели. За этот срок ускользнувший из-под контроля ИИ вторгается во все искусственные вычислительные приборы на планете, а вскоре после этого заражает и естественные. Партия окончена: вы проиграли. По земле еще будут шагать человеческие тела, а вот людьми они уже не будут.

И едва ИИ сообразит, каким образом напрямую управлять физической Вселенной, людская память будет стерта. Останется только ноосфера, расширяющаяся со скоростью, близкой к скорости света, пожирающая все на своем пути… и одной вселенной для нее недостаточно.

Я? Я в полном порядке. Ив и остальные — тоже. У нас имеются антитела. Мы перенесли операцию. У нас всех есть молчаливые партнеры, постоянно наблюдающие за нами, ждущие признаки инфекции и готовые немедленно придавить их. Когда ты читаешь что-то на экране и внезапно испытываешь такое ощущение, словно сам Будда рассказал тебе забавнейший во всей Вселенной анекдот, самый веселый дзен-анекдот из всех возможных — это знак. Нечто только сейчас попыталось инфицировать твой разум, а имплантированная иммунная система над этим смеется. И все потому, что нам повезло. Если вы верите в реинкарнацию, идея создания машины, способной уловить душу, кинжалом врезается прямо в сердце вашей религии. Могут выжить буддистские миры, развивающие высокие технологии, зороастрийские миры: их мировые линии достаточно устойчивы. Но не иудаистско-христианско-исламистские.

Ближе к вечеру я снова встретился с Ив и Уолтером. Уолтер работает под действительно глубоким прикрытием — гораздо более глубоким, чем, в сущности, необходимо: женат, имеет двоих детей. Он привел семью с собой, но, очевидно, не объяснил жене, в чем дело. Вид у нее ошеломленный, недоумевающий; ясно, что она расстроена очевидной нелогичностью желания мужа посетить горную Шотландию и еще больше озабочена настойчивостью попыток притащить туда всю семью.

— Какого черта он выделывается? — прошипела Ив, улучив подходящий момент. — Это безумие!

— Вовсе нет.

Я приостановился, любуясь выставкой празднично-ярких пледов в витрине. (Мы шагали пешком по главной улице, пробираясь сквозь толпы туристов, бредущих ко второму вокзалу.)

— Если вдруг найдутся профилировщики, выискивающие признаки эвакуации, вряд ли они обратят внимание на маленьких детей, — примиряюще сказал я. — Скорее, будут следить за людьми вроде нас — ничем не примечательными одиночками, работавшими в основных областях и внезапно исчезнувшими. Может, стоит спросить Сару, не согласна ли она одолжить нам своего сына. Разумеется, на время поездки.

— Ни за что. Этот мальчишка — просто ужас ходячий. Родители воспитывали их, как туземцев.

— Потому что Сара и есть туземка.

— Мне плевать. Любая цивилизация, где основной символ религиозного преклонения является также инструментом наказания, неподходящее место для того, чтобы иметь детей.

Я ухмыльнулся, но смешок тут же застрял в горле.

— Не оглядывайся. За нами следят.

— Да? Я не вооружена. А ты?

— Не слишком блестящая идея.

Если нас остановят или задержат полицейские и найдут оружие, небольшая проблема может мигом превратиться в катастрофу. А если полиция или чиновники уже захвачены обвалом, спасти нас может разве что карманная ядерная бомба или рукоятка экстренного торможения.