Мечты роботов (Сборник рассказов и эссе)

Так или иначе, по мере написания рассказов о роботах идея об устройствах, обеспечивающих безопасность людей, превратилась в Три закона роботехники. Эти три закона впервые были подробно описаны в рассказе "Хоровод". В утонченном и исправленном виде они выглядят следующим образом:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.

Эти законы вносятся в мозг роботов или, точнее, в электрические цепи, заменяющие им мозг. Естественно, я не собираюсь данные цепи описывать. Правду говоря, я никогда не обсуждаю инженерные проблемы по очень простой причине: я абсолютно невежествен относительно практических аспектов создания роботов.

Первый закон, как вы видите, мгновенно покончил со старым, всем надоевшим сюжетом, о котором я торжественно обещаю больше вам не напоминать.

Хотя на первый взгляд кажется, что такие строгие ограничения могут повлиять на творческие способности, выяснилось, что Законы роботехники послужили богатым источником для научно-фантастических произведений. И уж ни в коей мере не загнали писателей-фантастов в тупик ограниченности.

Примером может послужить рассказ "Хоровод", о котором я уже говорил. В этой истории робот, дорогая экспериментальная модель, создан специально для работы на солнечной стороне планеты Меркурий. Третий закон был внедрен в его сознание надежнее остальных по вполне понятным экономическим причинам. В самом начале рассказа он отправляется в экспедицию с целью добыть жидкий селен для очень важных и абсолютно необходимых ремонтных работ. (Можете мне поверить: на солнечной стороне Меркурия, где самое настоящее пекло, жидкого селена сколько хочешь.)

К несчастью, приказ, который получил робот, был сформулирован не слишком четко, а цепи, отвечающие за Второй закон, оказались слабее, чем обычно. Что еще хуже, селеновая лужа, к которой отправили робота, находилась рядом с районом вулканической активности. В результате там возникла высокая концентрация углекислого газа. Я пришел к выводу, что при высоких температурах на солнечной стороне Меркурия углекислый газ быстро вступит в реакцию с железом и образуется летучий карбонил железа, отчего пострадают наиболее хрупкие детали сочленений у робота. Чем дальше он проникает на опасную территорию, тем большей угрозе подвергает себя, а следовательно, вступает в силу Третий закон, заставляющий его остановиться. Второй закон, который при обычных обстоятельствах перевешивает Третий, толкает его вперед. В определенной точке возникает ситуация, когда более слабый в данной конкретной ситуации Второй закон и более сильный Третий достигают равновесия и робот не может ни двигаться дальше, ни отступить. И потому он ходит в районе селеновой лужи по эквипотенциальной траектории, отдаленно напоминающей круг.

Тем временем наши герои отчаянно нуждаются в селене. Они надевают специальные скафандры, находят робота, видят, какая сложилась ситуация, и пытаются понять, что же им делать дальше. После нескольких неудач они находят ответ на свой вопрос. Один из людей совершенно сознательно подвергает себя опасности: если робот его не спасет, он обязательно погибнет. За дело принимается Первый закон, который заставляет робота покинуть свою бессмысленную орбиту, поскольку этот закон важнее двух других. И все заканчивается благополучно.

Кстати, именно в рассказе "Хоровод" я впервые употребил термин "роботехника" (наука конструирования, создания роботов и управления ими). Много лет спустя мне сказали, что я изобрел новый термин и что до меня он никогда не появлялся в печати. Не знаю, правда ли это. Если да, то я счастлив, поскольку считаю данное слово логичным и полезным и потому с удовольствием дарю его всем, кто работает в интересующей нас области.

Ни один из других моих рассказов не имеет такого прямого и непосредственного отношения к Трем законам, как "Хоровод", но все они так или иначе с ними связаны. Например, один из рассказов посвящен роботу, который умел читать мысли и был вынужден лгать, поскольку не мог сказать человеку того, что тот не хотел слышать. Видите ли, правда неминуемо причинила бы ему "вред" - в виде огорчения, разочарования, горя, смущения, потери иллюзий и прочих эмоций подобного рода.

Вот еще одна история: загадка человека, которого подозревали в том, что он робот, иными словами, что у него квазипротоплазменное тело и "позитронный мозг" робота. Доказать, что он человек, он мог только одним способом публично нарушить Первый закон. Он не стал отказываться и при свидетелях ударил человека. Однако рассказ заканчивается сомнением, поскольку существует подозрение, что другой "человек" тоже мог быть роботом, а в Трех законах ничего не говорится о том, что один робот не может причинить вред другому.