21 урок для XXI века

Не исключено, что в процессе исчезнет Homo sapiens как таковой. Сегодня мы по-прежнему человекообразные обезьяны из семейства гоминидов. У нас все еще много общего с неандертальцами и шимпанзе: строение тела, физические возможности и умственные способности. Из общего с другими гоминидами у нас не только руки, глаза и мозг, но и похоть, любовь, гнев и социальные обязательства. Через сто или двести лет слияние биотехнологий и искусственного интеллекта может привести к появлению физических и психологических черт, которых нет у гоминидов. Некоторые ученые даже полагают, что сознание можно будет отделить от органической основы, и оно будет свободно перемещаться по киберпространству, избавленное от всех биологических и телесных ограничений. С другой стороны, мы можем стать свидетелями полного отделения интеллекта от сознания, а развитие искусственного интеллекта приведет к ситуации, когда миром будут управлять существа, наделенные суперинтеллектом, но полностью лишенные сознания.

Чем может ответить на это израильский, русский или французский национализм? Едва ли чем-то серьезным: националисты не мыслят на этом уровне. Израильских националистов чрезвычайно беспокоит вопрос о том, кому через сто лет будет принадлежать Иерусалим – израильтянам или палестинцам? Но их совсем не волнует другой вопрос: кто через сто лет будет управлять Землей – сапиенсы или киборги? Чтобы сделать разумный выбор относительно будущего, нужно подняться над националистической позицией и взглянуть на происходящее с глобальной или даже космической точки зрения. Подобно тому, как древние племена людей жили в долине Нила, сегодня все народы живут на берегу одной глобальной реки информации, научных открытий и технологических изобретений, которая, с одной стороны, обеспечивает наше процветание, с другой – создает угрозу нашему существованию. Чтобы эта глобальная река не вышла из берегов, все народы должны действовать сообща.

Космический корабль «Земля»

Любой из этих трех угроз – ядерной войны, экологической катастрофы или разрушительных технологий – вполне достаточно для уничтожения человеческой цивилизации. Но все вместе они создают опаснейший кризис, поскольку, по всей видимости, дополняют и усугубляют друг друга.

Несмотря на то что экологический кризис грозит уничтожить человеческую цивилизацию в ее нынешнем виде, он едва ли остановит развитие искусственного интеллекта и биоинженерии. Не стоит надеяться, что повышение уровня океана, нехватка продовольствия и массовая миграция отвлекут внимание от изучения алгоритмов и генов. По мере усугубления экологического кризиса развитие рискованных, но сулящих огромные преимущества технологий только ускорится.

И действительно, изменение климата может сыграть ту же роль, что и две мировых войны. В периоды с 1914 по 1918 и с 1939 по 1945 год темпы технологического прогресса резко возрастали, поскольку участвовавшие в мировых войнах страны отбрасывали соображения осторожности и экономии и вкладывали огромные ресурсы в дерзкие и фантастические проекты. Точно так же государства, столкнувшиеся с климатической катастрофой, могут не устоять перед искушением пуститься в отчаянные технологические авантюры в надежде на спасение. У человечества есть много обоснованных сомнений относительно искусственного интеллекта и биоинженерии. Как бы вы ни относились к запретам потенциально опасных технологий, спросите себя: будут ли эти запреты соблюдаться в ситуации, когда климатические изменения вызовут нехватку продовольствия, затопление городов по всему миру и перемещение через границы сотен миллионов беженцев?

Развитие технологий, в свою очередь, повышает вероятность апокалиптических войн – не только из-за усиления напряженности в мире, но и из-за нарушения ядерного баланса между странами. С 1950-х годов супердержавы избегали взаимных конфликтов, потому что знали: война гарантированно приведет к взаимному уничтожению. Но появляются новые виды наступательных и оборонительных вооружений, и набирающая силу технологическая супердержава может решить, что способна безнаказанно уничтожить врага. И наоборот: слабеющая страна будет опасаться, что традиционное ядерное оружие скоро устареет, и решит, что лучше использовать его, пока оно не стало бесполезным. До сих пор ядерное противостояние напоминало в высшей степени рациональную шахматную игру. Но что произойдет, когда игроки получат возможность использовать кибератаки, чтобы захватить контроль над фигурами противника, а анонимные третьи стороны будут двигать пешки так, что соперники даже не догадаются, кто сделал очередной ход?