Мечты роботов (Сборник рассказов и эссе)

3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.

Эти законы внесены в компьютеризированный мозг робота и явились темой многих моих рассказов, посвященных роботам. По правде говоря, они так понравились читателям и звучали так разумно, что другие писатели-фантасты начали использовать их (никогда не цитируя напрямую – в отличие от меня), и все старые рассказы о роботах, уничтожавших своих создателей, просто умерли.

Ну, это научная фантастика. А как насчет работ по созданию сложных компьютеров и искусственного интеллекта, которые проводятся учеными? Когда строятся машины, обладающие собственным разумом, будут ли в их сознание внедрены законы, подобные Трем законам роботехники?

Разумеется да, поскольку создатели компьютеров и сами обладают высокоразвитым интеллектом. Более того, защита будет не только иметь некоторое отношение к Трем законам – она будет на них опираться.

В тот момент, когда я придумал Три закона, я не понимал, что человечество уже давным-давно пользуется ими. «Три закона инструментов» звучат следующим образом:

1. Инструмент должен быть безопасным для использования. (Это же очевидно! У ножей и мечей имеются рукоятки. А инструмент, который может причинить вред тому, кто взял его в руки – если, конечно, человек знает об опасности, – никогда не будет использован, каким бы полезным он ни казался.)

2. Инструмент должен выполнять свои функции при условии, что он не представляет ни для кого никакой опасности.

3. Инструмент должен оставаться в целости и сохранности во время его использования, если только его уничтожение не продиктовано соображениями безопасности или если это не входит в его функцию.

Никто никогда не цитирует эти три закона, поскольку все принимают их как должное. Каждый закон, если о нем говорят вслух, будет встречен дружным восклицанием вроде: «Ну, это же любому ясно!»

В таком случае давайте сравним «Три закона инструментов» c Тремя законами роботехники, и вы увидите, что они полностью совпадают. А разве может быть иначе? Ведь робот, или, если желаете, компьютер, является инструментом, которым пользуется человек.

Но можно ли сказать, что мы защищены от всех неприятностей в достаточной степени? Подумайте об усилиях, которые предпринимаются, чтобы сделать автомобили безопасными, – однако они продолжают убивать около 50 000 американцев в год. Подумайте об усилиях, которые предпринимаются, чтобы обезопасить банки, – однако ограбления продолжаются. Подумайте об усилиях, которые предпринимаются, чтобы защитить компьютерные программы, – однако количество компьютерного мошенничества растет.

Впрочем, если компьютеры станут достаточно разумными, чтобы «перехватить инициативу», они уже не будут нуждаться в ограничениях, предписываемых Тремя законами. И тогда по доброте душевной они решат заботиться о нас и оберегать от неприятностей и проблем.

Однако кое-кто из вас может возразить, что мы не дети и, как только возникнет необходимость нас охранять, мы лишимся своей человеческой сути.

Правда? Посмотрите на сегодняшний мир и мир прошлого и задайте себе вот какой вопрос: в самом ли деле мы не дети (причем склонные к насилию и уничтожению всего вокруг) и справедливо ли утверждение о том, что за нами не нужно присматривать?

Если мы хотим, чтобы с нами обращались как со взрослыми, нам следует вести себя как взрослые. И когда же начнем?

Будущая фантастика

Future Fantastic (1989)
Перевод: В. Гольдич

В прошлом три фундаментальных достижения в области коммуникаций полностью изменили все области нашей жизни. Первое – это речь, второе – письмо и третье – книгопечатание.

Сейчас можно говорить о четвертом достижении, не менее важном, чем первые три, – о компьютере. Четвертое революционное изобретение позволит человеку развить свои творческие способности до небывалых высот. И если мы не уничтожим мир при помощи ядерного оружия, перенаселения или загрязнения окружающей среды, мы получим мир технодетей, настолько отличающийся от нынешнего, насколько нынешний отличается от мира пещерного человека. Каким будет мир следующего поколения по сравнению с миром наших предков?

Ответ, который напрашивается сам собой: компьютер можно рассматривать как еще один вид развлечения, что-то вроде супертелевизора. Его можно будет использовать для сложных игр, общения с друзьями и других простых вещей. Однако даже это может коренным образом изменить нашу жизнь. Прежде всего, общение через компьютерные сети уничтожит расстояния. Весь земной шар станет представляться нам похожим на соседний город или даже дом – и это будет иметь важные последствия. Человечество сможет считать себя единым целым, а не сборищем постоянно враждующих социальных групп. В мире появится общий lingua franca, язык (вне всякого сомнения, близкий по своему строению к современному английскому), который будут понимать все, хотя люди, разумеется, сохранят свои родные языки для местного пользования.