Рассказы

— В результате какого процесса возник единственный пример сознания, который нам известен?

— Эволюции.

— Именно. Но я не хочу ждать три миллиарда лет. Поэтому нужен гораздо более направленный процесс селекции, нужно напрямую обращаться к факторам вариации.

Юлия немного поразмыслила над этим.

— Вы хотите, чтобы я попыталась вывести настоящий ИИ путём эволюции? Сознающий себя искусственный интеллект, равный человеческому?

— Да.

Даниэль увидел, как она поджала губы, как она старается подобрать слова, прежде чем заговорить.

— При всём уважении, мне кажется, вы недостаточно хорошо это продумали, — сказала она.

— Отнюдь, — заверил её Даниэль. — Я планировал это в течение двадцати лет.

— Вся эволюция построена на неудачных попытках и смерти. Вы хоть представляете, сколько наделённых чувствами существ жили и умирали, чтобы проложить дорогу для Homo Sapiens? Сколько при этом было страданий?

— Частью вашей работы будет минимизировать страдания.

— Минимизировать их? — воскликнула Юлия. Казалось, она искренне шокирована, словно это предложение было ещё хуже, чем наивное предположение о том, что работа не вызовет этических затруднений. — Да какое у вас вообще есть право обрекать их на страдания?

— Вы рады, что существуете, не так ли? — вопросом на вопрос ответил Даниэль. — Несмотря на все страдания ваших предков.

— Да, я рада, что существую, — согласилась она. — Но в случае людей страдания не являются намеренно кем-то вызванными. Кроме того, у нас не было альтернативного способа появиться на свет. Если бы справедливый Создатель действительно существовал, не сомневаюсь — он бы последовал Книге Бытия буквально; чёрт возьми, он бы никогда не воспользовался эволюцией!

— Справедливый и всемогущий, — заметил Даниэль. — Как ни прискорбно, вторая характеристика встречается ещё реже первой.

— Не думаю, что для создания в своём воображении требуется всемогущество. Лишь немного терпения и самопознание.

— Это не будет чем-то вроде естественного отбора, — упорствовал Даниэль. — Не будет таким слепым, таким жестоким и расточительным. Вы будете вольны вмешиваться столько, сколько хотите, сможете принимать смягчающие меры когда сочтёте нужным.

— Смягчающие меры? — переспросила Юлия, прямо встретив его взгляд — и Даниэль увидел, что выражение недоверия на её лице уступает место чему-то более зловещему. Гостья поднялась и бросила взгляд на браслет-мобильник. — Здесь у меня не ловит. Вы не откажете в любезности вызвать для меня такси?

— Пожалуйста, выслушайте меня, — попросил Даниэль. — Уделите мне ещё десять минут, и потом вертолёт доставит вас в аэропорт.

— Я бы предпочла добраться самостоятельно, — сказала Юлия, бросив на Даниэля красноречивый взгляд; было очевидно, что этот вопрос не подлежит обсуждению.

Даниэль вызвал для неё такси, и они вместе направились к лифту.

— Знаю, это вызывает у вас сомнения с моральной точки зрения, и я уважаю ваше мнение, — сказал Даниэль. — Мне бы и в голову не пришло нанять кого-то, кто счёл бы эти проблемы незначительными. Но если я откажусь от этого проекта, им займётся кое-кто другой. Кое-кто с куда худшими намерениями.

— О, правда? — удивилась она с подчёркнутым сарказмом в голосе. — Так объясните же мне, как само существование вашего проекта заставит этого гипотетического Бин Ладена от ИИ остановить свой?

Даниэль был разочарован; он рассчитывал — она по крайней мере поймёт, что стоит на кону.

— Идёт гонка, в которой решается — быть божественности или рабству, — сказал он. — И того, кто придёт первым, будет невозможно остановить. Я ничьим рабом быть не собираюсь.

Юлия вошла в кабину; Даниэль последовал за ней.

— Знаете, что говорят о современной версии пари Паскаля? — спросила она. — Нужно подлизаться как можно к большему числу сверхлюдей — на случай, если один из них превратится в Бога. Возможно, вашим девизом стоит сделать «Обращайтесь со всеми интернет-ботами по-доброму: каждый из них может оказаться дядюшкой божества».

— Мы проявим максимум милосердия, — сказал Даниэль. — Не забудьте, мы можем определить природу этих созданий. Они будут счастливы, что живут, они могут быть благодарны своему Создателю. Эти черты мы можем вывести селекцией.

— Значит, вы хотите создать сверхлюдей, Эbermenschen, которые будут вилять хвостиком, когда вы станете чесать у них за ушком? Не боитесь вдруг обнаружить, что это потребует неприемлемого компромисса с совестью?

Лифт спустился на первый этаж, в холл.

— Подумайте как следует, не торопитесь с решением, — сказал Даниэль. — Можете звонить мне в любое время.

Сегодняшним вечером рейса на Торонто не было. Ей предстояло застрять в отеле, выложить за номер деньги, которые она почти не могла себе позволить, размышляя о том, какую зарплату она могла бы потребовать теперь, когда она продемонстрировала свою принципиальность и недоступность. Хорошенько всё обдумав, она сможет обратить проявленную сегодня морализаторскую упёртость в повод продать себя подороже. У неё не возникнет проблем с тем, чтобы засунуть свою гордость подальше.

Юлия протянула ему руку, которую он пожал.

— Спасибо за ужин, — сказала она.