Конфликт, которого можно избежать

— Должна заметить, что все они из рук вон плохо сделали свое дело…

— Конечно, — прервал ее Байерли. — Не последовать рекомендациям Машины — это не самый лучший путь. И результаты гораздо более незначительны, чем могли бы быть. Это та цена, которую они платят. Они и должны делать это грубо, так как в неразберихе, которая последует за этим…

— Что же вы думаете делать, Стивен?

— Нельзя терять время. Я хочу добиться того, чтобы общество объявили вне закона и членов общества сместили бы с любого мало-мальски значительного поста. А на все исполнительные и технические должности были назначены люди, подписавшие присягу о неприсоединении к обществу. Конечно, это слегка ущемляет основные гражданские свободы, но я думаю, что Конгресс…

— Не пойдет!

— Что? Почему?

— А вот почему. Если вы попытаетесь сделать это, вы увидите, что на каждом шагу вам чинят препятствия. Вы поймете, что это невозможно сделать. Каждый ваш шаг в этом направлении будет оборачиваться большой бедой.

Байерли был потрясен.

— Почему вы так считаете? Я думал, что вы, наоборот, поддержите меня.

— Ваши действия будут обречены на провал, поскольку вы исходите из ложных предпосылок. Вы допускаете, что Машина не может ошибаться, и что в нее нельзя ввести ложные сведения. Я сейчас докажу вам, что нельзя не следовать ее рекомендациям, что по-вашему делают члены общества.

— Этого я вообще не понимаю.

— Тогда слушайте. Любое действие любого исполнителя, не соответствующее рекомендациям Машины, с которой он имеет дело, становится частью новой проблемы. В этом случае Машина уже знает, что тот или иной исполнитель имеет тенденцию к неподчинению. И дальнейшие ее действия будут учитывать это. Таким образом, Машина так или иначе сделает так, что действия непокорного исполнителя будут приведены в соответствие с оптимальными. Машина ЗНАЕТ, Стивен!

— Вы не можете быть уверены в этом! Это только догадка!

— Эта догадка основана на опыте общения с роботами в течение целой жизни. Вы должны признать, что это правда, Стивен.

— Но что же тогда я упустил? Машины всегда правы, и предпосылки, на которых они основаны, тоже. С этим мы согласились. Теперь вы говорите, что им нельзя не подчиняться. Тогда в чем же дело?

— Вы сами ответили на ваш вопрос. Никакого дела просто нет! Попытайтесь представить себе Машину, Стивен. Это робот, и он следует Первому закону. Но Машины работают не на благо какого-то одного человека, а на благо всего человечества, поэтому Первый закон звучит для них так: «Машина не может принести вреда человечеству или своим бездействием допустить, чтобы ему был причинен вред».

Вот так, Стивен. Что же может причинить вред человечеству? Прежде всего неравномерное распределение производственных мощностей, не так ли?

— Да, допустим.

— А что в будущем может с наибольшей вероятностью привести к неравномерному распределению промышленности? Скажите-ка, Стивен?

— Я думаю, — нехотя проговорил Байерли, — уничтожение Машин.

— И я так считаю, и так считают Машины. Таким образом, их первой заботой является забота о себе, ради нашего благополучия. Поэтому они исподволь подкапываются под то, что может повредить им. Это не «Общество за Человечество», которое вроде бы борется за уничтожение Машин. Это другая сторона медали. Вернее, сами Машины слегка раскачивают нашу лодку — совсем тихонько, но достаточно для того, чтобы обезвредить тех, чьи действия могут причинить вред Человечеству.

Поэтому Врасаяна теряет свою фабрику и получает другую работу там, где он не сможет причинить вреда — ему вред почти не причинен, он продолжает получать достаточно, чтобы обеспечить себе безбедное существование, потому что Машина не может причинить мало-мальски значительного вреда человеку, да и то исключительно ради блага других людей. «Консолидейтед Циннабар» теряет контроль над Альмаденскими копями. Вильяфранка больше не главный инженер важнейшего проекта. А директора «Уорлд Стил» постепенно теряют свое влияние на производство — и потеряют его.

— Но вы же не знаете всего этого на самом деле, — настаивал Байерли. — Как мы можем полагаться на ваши догадки?

— Вы должны. Помните, что ответила вам Машина, когда вы задали ей вопрос? Ответ гласил: «Этот вопрос не требует разъяснений». Машина не сказала, что это невозможно объяснить или что она не может сформулировать объяснение. Она просто не допускала никаких объяснений. Иными словами, человечеству вредно было бы знать объяснение, поэтому нам остается только гадать, что оно может из себя представлять.

— Но каким же образом может повредить нам объяснение? Предположим, что вы правы, Сьюзен.

— Стивен, если я права, значит, Машина старается для нашего будущего, не только отвечая прямо на поставленные вопросы, но и вообще принимая во внимание положение, создавшееся в мире и человеческую психологию. А знание этого может сделать людей несчастными или ущемить нашу гордость. Машина не может, не должна приносить нам несчастье.