Я, робот

— Нет, Сьюзен, факты он не отрицает. Я, наверное, не так выразился. Он наотрез отказывается признать, что Машины могут давать неверные ответы. Он утверждает, что Машины устроены так, что сами исправляют собственные ошибки, и что наличие ошибки в соединениях и реле может быть следствием лишь нарушения основных законов природы. Но все-таки я ему сказал…

— Но все-таки вы сказали: «Пусть ваши мальчики все проверят еще разок».

— Сьюзен, вы читаете мои мысли. Именно так я ему и сказал, но он ответил, что это невозможно.

— Что, слишком занят?

— Нет, дело не в этом. Он сказал, что на это не способен ни один человек. Он был со мной откровенен. Он мне объяснил — и я искренне надеюсь, что понял его правильно, — что Машины представляют собой колоссальную экстраполяцию. То есть: бригада математиков несколько лет упорно трудится над созданием позитронного мозга, способного производить определенные расчеты. С помощью результатов этих расчетов они потом создают еще более сложный мозг, который предназначен для произведения еще более сложных расчетов и создания еще более сложного мозга, и так далее. Судя по тому, что мне сказал доктор Силвер, то, что мы называем Машинами, является результатом десяти таких последовательных операций.

— Да-а, дело знакомое, — кивнула Сьюзен. — Какое счастье, что я не математик. Бедный Винсент. Он еще так молод. У руководителей исследовательского отдела до него таких трудностей не было. И у меня тоже. Мне кажется, сегодня роботехники плохо разбираются в своих собственных творениях.

— Пожалуй, вы правы. Машины — это вовсе не простой супермозг, как о них пишут в воскресных приложениях. Ситуация такова, что, собирая и анализируя бесконечное количество данных за немыслимо короткое время, они лишили людей возможности их проверить. Тогда я решил предпринять другую попытку. Я сделал запрос самой Машине. В обстановке строжайшей секретности мы ввели в Машину исходные данные, которые она сама в свое время использовала для принятия решения в области сталепрокатной промышленности, ее собственное решение и информацию о последствиях принятого решения — то бишь о перепроизводстве — и попросили объяснить случившееся.

— Ну и каков же был ответ? — с нескрываемым интересом спросила Сьюзен Кэлвин.

— Я могу процитировать вам его слово в слово: «Суть дела не подлежит объяснению».

— И что на это сказал Винсент?

— Он сказал, что возможны два варианта. Либо мы не дали Машине достаточно данных, чтобы она могла дать более четкий ответ, что, естественно, маловероятно. Это доктор Силвер сам признал. Либо Машина не захотела признать, что она могла принять на основании введенных данных такое решение, которое, противореча Первому Закону Роботехники, могло бы нанести вред людям. А потом доктор Силвер порекомендовал мне посоветоваться с вами.

Сьюзен Кэлвин устало усмехнулась.

— Стара я уже, Стивен. Было время, помните — вы хотели назначить меня руководителем исследовательского отдела, и я отказалась. Я и тогда была немолода, и мне не хотелось брать на себя такую ответственность. Тогда на этот пост пригласили молодого Силвера, и меня это устроило. Но видно, толку мало, раз меня все равно втягивают в эти дела. Позвольте мне, Стивен, изложить свою точку зрения. Проводимые мной исследования действительно касаются поведения роботов в свете Трех Законов Роботехники. В данный момент мы говорим о достигших невероятной сложности вычислительных устройствах. Они — позитронные роботы и, следовательно, повинуются законам. Однако они не являются личностями, то есть функции их чрезвычайно ограниченны. Так и должно быть, поскольку они узкоспециализированы. Это почти не оставляет места для взаимодействия законов, и мой метод исследования тут практически бесполезен. Короче говоря, не думаю, что могу помочь вам, Стивен.

Координатор грустно усмехнулся.

— И все-таки, Сьюзен, позвольте мне рассказать вам остальное. Я изложу свои предположения, а вы тогда, может быть, скажете, насколько все это вероятно с точки зрения робопсихологии.

— Безусловно. Продолжайте.

— Итак, если Машины дают неверные ответы, а ошибаться не могут, остается только одна возможность: им дают неверную информацию! Другими словами, дело не в роботах, а в людях. Так что я отправился в планетарную инспекционную поездку…

— …из которой только что вернулись в Нью-Йорк.

— Да. Это было необходимо, поскольку у нас четыре Машины и каждая из них отвечает за один из регионов Земли. И все четыре дают неверные ответы.

— Ну а вот это как раз совершенно закономерно, Стивен. Если хотя бы одна из Машин дает неверный ответ, ошибутся и остальные три — ведь они функционируют на основании допущения о том, что каждая из них в порядке. Если допущение неверно, и ответы будут неверны.

— Угу… Вот и мне так показалось. А теперь не посмотрите ли вы вместе со мной записи моих бесед с каждым из региональных вице-координаторов? Ах да, чуть не забыл… Приходилось ли вам слышать об организации под названием Общество защиты прав человека?