Конец света: прогнозы и сценарии

В ноябре 2007 года ученые из компании IBM и Федерального технического Института Лозанны (Ecole polytechnique federale de Lausanne), пытающиеся в рамках программы проекта «Blue brain» («Голубой мозг») создать компьютерную модель мозга человека, объявили о том, что им удалось полностью имитировать часть мозга мыши. Полную модель мозга человека они планируют построить не позднее 2020 года. Правда, ученые не пытаются смоделировать сознание. По их словам, «сознание может получиться само собой. Но мы не можем в точности сформулировать, что есть сознание, поэтому трудно рассуждать о проблеме его моделирования».

В том же направлении работают компании Google, Sony, SIAI, CYC, Numenta и многие другие. Разработкой чего-то очень похожего на ИИ занимается даже российская компания ABBYY, известная своими программами распознавания текстов. Можно не сомневаться, что разработкой ИИ в совершенно определенных целях, только не так открыто, занимаются и военные.

В августе 2008 года на проходившем в Сан-Франциско форуме разработчиков компьютерной техники Джастин Раттнер, технический директор корпорации Intel, заявил: компьютеры в ближайшее время не просто догонят человека по уровню интеллекта, но и перегонят его. За «ближайшее время» он взял период до 2050 года, а в доказательство верности своих слов продемонстрировал двух роботов, один из которых мог, пользуясь исключительно вмонтированными видеокамерами (глазами), изучать различные трехмерные предметы, идентифицировать и классифицировать их; второй робот довольно легко угадывал на лицах людей эмоции и умел выполнять несложные поданные голосом команды, различные по форме и лексическому составу, — робот одинаково хорошо реагировал и на просьбу «стереть эту пыль», и на требование «убери грязь».

Некоторые ученые называют и более определенные даты. Известный американский изобретатель и футуролог Рэй Курцвайль, имя которого включено в список 18 выдающихся мыслителей современности, считает, что искусственный интеллект, равный человеческому, и даже способный испытывать эмоции, похожие на наши, появится к 2029 году. Его коллега, футуролог Джеймс Мартин, также говорит, что искусственный разум, правда, сильно отличающийся от человеческого, появится в ближайшие десятилетия. Ему можно верить: пока что большинство прогнозов, которые он сделал еще в середине 1970-х годов, сбываются.

«Закон Мура», сформулированный в 1965 году одним из основателей компании Intel Гордоном Муром и гласящий, что производительность компьютеров удваивается за полтора — два года, до сих пор действует неукоснительно. И нет никаких признаков того, что в ближайшем будущем закон этот устареет. Напротив, люди уже сейчас находятся на пороге создания «квантового компьютера», который одним скачком сможет обогнать наших современных электронных помощников сразу на несколько порядков по многим параметрам.

Но если мы создадим искусственный разум, равный человеческому, то что может помешать нам создать разум, превосходящий человеческий? Разум, для которого проблемы, кажущиеся нам сейчас сложными и даже нерешаемыми, будут простыми и понятными. Дальше получается еще интереснее. Если человек создаст разум, более совершенный и мощный, чем его собственный, ничто не помешает этому созданному разуму создать еще более мощного искусственного собрата. Причем произойдет это не только при молчаливом согласии, но и при непосредственной поддержке человечества, которому все увеличивающаяся мощность компьютеров для решения своих, человеческих задач просто необходима. Ведь чем мощнее компьютеры, тем лучше наша жизнь. В сущности, для человечества компьютер — это такой относительно безопасный наркотик, дозу которого постоянно хочется увеличивать. Вреда от этого наркотика мы не ощущаем. Пока.

Я не собираюсь никого пугать ни «бунтом машин», ни появлением «терминаторов», истребляющих людей, ни наступлением эпохи «матрицы». Во-первых, предотвратить такой бунт совсем не сложно. И дело тут даже не в «трех законах робототехники», хотя и в них тоже. Три закона, целью которых является защита человека от возможных действий разумных машин, были сформулированы известным американским фантастом русского происхождения Айзеком Азимовым в рассказе «Хоровод» еще в 1942 году. Вот эти законы, намертво закрепленные в любом искусственном интеллекте.

Первый закон: робот не может причинить вреда человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Второй закон: робот должен выполнять приказы человека в той мере, в какой это не противоречит первому закону.

Третий закон: робот должен заботиться о своей безопасности в той мере, в какой это не противоречит первому и второму законам.

Кроме того, значительно позже, уже в 1986 году, Азимов дополнил этот свод нулевым законом: робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.