Власть роботов. Как подготовиться к неизбежному

Машины, способные мыслить и поступать как люди, существовали в нашем воображении задолго до изобретения первых электронных компьютеров. В 1863 году английский писатель Сэмюэл Батлер написал письмо редактору газеты из новозеландского Крайстчерча. В этом письме, озаглавленном «Дарвин среди машин», высказывалась идея «живого механизма», который когда-нибудь сумеет так развиться, что сравняется с людьми, а может, даже превзойдет их. Батлер призывал к немедленной войне против нового вида механических существ и заявлял, что «машины подобного рода должны быть уничтожены»[120]. Этот страх кажется несколько преждевременным с учетом состояния информационной технологии в 1863 году, но нарисованная Батлером картина повторяется с тех пор снова и снова, взять хотя бы фильмы «Терминатор» и «Матрица». Страхи Батлера разделяют не только авторы научной фантастики. Недавние достижения в создании ИИ заставили таких видных деятелей, как Илон Маск и покойный Стивен Хокинг, выступить с предостережением в отношении развития сценариев, поразительно близких тому, что пугал Батлера более 150 лет назад.

В вопросе о том, когда создание искусственного интеллекта стало областью серьезных исследований, мнения расходятся. Я бы отнес ее возникновение к 1950 году. В том году блестящий математик Алан Тьюринг опубликовал научную статью «Вычислительные машины и разум», где задавал вопрос: «Могут ли машины мыслить?»[121]. В этой статье Тьюринг предложил тест на основе популярной игры, который до сих пор является эталоном для определения, может ли некая машина считаться в полной мере интеллектуальной. Тьюринг, родившийся в Лондоне в 1912 году, проделал эпохальную работу в области теории вычислений и природы алгоритмов, и его принято считать отцом-основателем компьютерной науки. В 1936 году, всего через два года после окончания Кембриджа, он сформулировал математические принципы того, что сейчас называют универсальной машиной Тьюринга, в сущности — концептуальный план любого компьютера, когда-либо созданного в реальном мире. В самом начале компьютерной эры Тьюринг ясно понимал, что машинный интеллект — это логичное и, возможно, неизбежное продолжение электронных вычислений.

Словосочетание «искусственный интеллект» придумал Джон Маккарти, в то время молодой преподаватель математики Дартмутского колледжа. Летом 1956 года Маккарти участвовал в организации Дартмутского летнего исследовательского проекта по изучению искусственного интеллекта в кампусе колледжа в Нью-Гемпшире. Это была двухмесячная конференция, куда пригласили светил новой области исследований. Участники проекта ставили перед собой смелые и оптимистичные цели. В плане конференции говорилось, что «будет предпринята попытка определить, как научить машины владеть языком, формировать абстрактные понятия и концепции, решать задачи того типа, которые в настоящее время считаются сугубо человеческими, а также совершенствоваться», и выражалась уверенность организаторов «в достижении существенного прогресса в решении одной или нескольких этих задач, если тщательно подобранная группа ученых будет совместно работать над ними в течение лета»[122]. Среди участников были Марвин Мински, наряду с Маккарти ставший одним из самых известных в мире исследователей ИИ и основателем Лаборатории искусственного интеллекта МТИ, и Клод Шеннон, легендарный инженер-электрик, сформулировавший принципы теории информации, легшие в основу электронной коммуникации и обусловившие возможность появления интернета.

Примечательно, однако, что величайший ум не принимал участия в Дартмутской конференции. Алан Тьюринг совершил самоубийство двумя годами раньше. Осужденный за однополые отношения согласно законам о «непристойном поведении», действовавшим тогда в Великобритании, Тьюринг был поставлен перед выбором между тюремным заключением и химической кастрацией путем принудительного введения эстрогена. Он выбрал второе и, находясь в депрессии, покончил с собой в 1954 году. Это стало невосполнимой утратой для зарождающейся области компьютерных наук и искусственного интеллекта. На момент смерти Тьюрингу был всего 41 год. В более справедливом мире он почти наверняка дожил бы до появления персонального компьютера и, вполне вероятно, интернета и многих других инноваций. Невозможно сказать, какой вклад Тьюринг внес бы в последующие десятилетия или насколько более развитым мог бы сегодня быть ИИ, но его уход стал колоссальной интеллектуальной потерей для этого направления исследований и для всего человечества.

Область искусственного интеллекта стремительно развивалась после Дартмутской конференции. Компьютеры становились более мощными, совершались важные открытия, разрабатывались алгоритмы, способные решать все более широкий круг задач. Искусственный интеллект как научное направление занял прочное место в американских университетах, и был создан ряд лабораторий по исследованию ИИ.