Дилемма

Она заставила себя улыбнуться и посмотреть человечишке в глаза, как научила ее мама, произнести ничего не значащие слова:

– Пожалуйста, можно я еще немножко посижу у окна, госпожа? Я так люблю смотреть на дождь…

– Что ж… – удивилась учительница. – Раз ты так вежливо попросила, разрешаю.

На следующем пункте досмотра Чен сдал всю электронику охране. Его тщательно обыскали и просветили всеми возможными сканерами – не дай бог кто-то пронесет в ЦФИВС цифровой носитель.

Наконец охранник кивнул, и Чен шагнул в просторный лифт. Двери за ним закрылись, и лифт поехал вниз, на глубину свыше тысячи метров, где содержали спятившее цифровое сознание – все, что осталось от его покойной жены.

Лин перелопачивала экзабайты данных. Криптографические библиотеки. Высокоразрешенные изображения со спутников. Сканы человеческого мозга. Геномные последовательности. Ее матери нигде не было.

Лин стала искать карты: схемы зданий и компьютерных сетей. Так, вот они. Топологическая схема сети ничего ей не дала – на ней не было объектов, похожих на нужный квантовый кластер. Кластер, в котором существовала ее мать. Схема здания тоже оказалась бесполезной, всюду сплошные дата-центры неясного предназначения.

Лин продолжала поиски. Она должна во что бы то ни стало найти свою мать.

Просторный лифт – размером с хорошую гостиную – вез Чена сквозь скальную породу под Шанхаем. На табло загорелась надпись: «ИЗОЛЯЦИЯ АКТИВНА».

Без мер предосторожности было никак. Ученые, философы, футуристы, фантасты – все писали об угрозах, которые таит в себе сверхразум. Если человечество когда-нибудь создаст разум с радикально усовершенствованными мыслительными способностями, то тем самым оно поставит свое существование под угрозу. Конечно, созданный разум может оказаться послушным и благожелательным. На это все и надеялись. А если он захочет избавиться от людей? Если он решит изменить мир в лучшую сторону – не обращая внимания на нужды и интересы тех, кто его создал?

Развитый искусственный интеллект способен развиваться сам, бесконечно меняя собственную структуру и оптимизируя ее, становясь бесконечно умнее своих создателей.

Именно по этой причине Су-Йонг Шу пришлось ограничить: она могла редактировать свой разум лишь на самом поверхностном уровне.

Чен сомневался, что риск произвольного самоусовершенствования действительно существует. Как один человек не может создать с нуля интеллект уровня человеческого, так и сверхразум не в состоянии породить интеллект своего уровня или выше. Да, безусловно, он сумеет усовершенствовать методы, которыми пользовались его создатели, и добиться незначительного развития, но без доступа к новому железу и оборудованию эффект от усовершенствований быстро нивелируется.

Поэтому Чен решил поступиться правилами: во время обычной процедуры техобслуживания установил ряд обновлений и доказал коллегам необходимость апгрейда квантовых процессоров. Все исключительно из практических соображений, разумеется. Чтобы Шу могла усерднее трудиться в интересах государства, Министерства наук и человечества. Все ради общего блага.

Однако в современном мире, где все связано, где балом правит информация, где шифры заменили собой замки и охраняют мировое богатство, инфраструктуру, оружие, в этом мире любое существо, способное обрабатывать данные быстрее человека, представляет собой огромную угрозу.

Именно по этой причине Копенгагенский протокол запретил разработку искусственного интеллекта, обладающего самосознанием. И по этой же причине правительство Китая, спонсируя разработку именно такого сознания, приняло немыслимые меры предосторожности, чтобы физически его изолировать, полностью отрезать от внешней среды и при необходимости дистанционно уничтожить.

Лифт с лязгом остановился. Здесь, глубоко под землей, не было никаких беспроводных сетей, только три физических канала для передачи данных. Один из них связывал квантовый кластер с мировой сетью, но сейчас он не функционировал: между двумя его концами было десять метров скальной породы. По второму кабелю данные с камер и прочих сенсоров передавались в центр защищенных вычислительных систем: охрана всегда знала, что творится внизу. По третьему кабелю курсировали куда более простые данные. Этот провод соединял надземный терминал с радиоизотопным генератором, обеспечивавшем ЦФИВС электричеством. Если хоть что-то пойдет не так, по кабелю пройдет один-единственный сигнал – команда генератору выйти из строя и расплавить всю подземную базу к чертям.

Огромные двери лифта разъехались в стороны. Двери внутреннего отсека толщиной в несколько метров разошлись секундой позже, и Чен Панг вышел из лифта, чтобы произвести техосмотр собственной жены.

Лин нахмурилась. Нигде не было ни намека на ее маму. Но она знала наверняка, что ее содержат в квантовом кластере под университетом. И отец туда отправился.

– Лин, перерыв окончен.

Она пропустила слова учителя мимо ушей. Где ее мать? Где?!