Любовь — последний мост

«Что за театральщина, — думал он, — эти фантастические помещения с их сверхфантастическими мерами безопасности, что за смехотворные детские игры! И в то же время — так, да и не совсем так, — подумал он, — ни в коем случае. Нет, правда, это не совсем так. Я знаю, чем занимаются в моем отделе. И чем занимаются, над чем работают в других. Не только разработкой все лучших, все более мощных компьютеров, искусственного интеллекта, роботов, машин, способных говорить, видеть, двигаться, работать, выполнять и даже отдавать приказы. Конечно, здесь занимаются не только этим…» Ему вдруг вспомнились слова Джозефа Вейценбаума[15]: «Непреложный факт состоит в том, что компьютеры родились во время войны, во время войны во Вьетнаме, и что все исследовательские роботы, имеющие отношение к компьютерам, всегда поддерживались и будут поддерживаться военными…» «Мне, — думал Сорель, — уже много лет ясно, что подразумевал Вейценбаум, этот знаменитейший специалист по информатике и в то же время непримиримейший критик своих собственных работ. Он родился в 1923 году в Берлине, в 1936 году эмигрировал в Америку и почти всю свою жизнь проработал в Эм-ай-ти — Массачусетском технологическом институте, в Кембридже. Я постоянно читал, читал и перечитывал его статьи и интервью. А потом отмел их в сторону, попытался вытеснить из своего сознания, чтобы придумать для себя оправдание. Ну чем таким особенным я занимаюсь в «Дельфи»? Защищаю программы от вирусов, и только. Я, конечно, понимал, что это трусливая отговорка. До той минуты, когда они вышвырнули меня вон как неоправданный фактор риска, я жил в состоянии, «когда знаешь и не желаешь знать», и я постоянно стремился вытеснить истину из своего сознания. А теперь я из этой команды выбыл, сейчас мне нечего изживать и нечего из себя вытеснять, теперь я вправе присоединиться к обвинительному вердикту Вейценбаума: «Каждый наш успех, например если мы научим компьютер видеть, будет немедленно взят на вооружение военными, будет ими использован…»

И я услышал и прочел об этом уже несколько лет назад, но всегда как-то отмахивался от этого — и вдобавок для собственного облегчения и оправдания каждый раз мысленно взывал к собственному кредо: никогда, никогда больше не быть бедным.

«Нельзя сказать, — писал Вейценбаум, — будто компьютер можно использовать как во имя добра, так и во имя зла, а сам он, дескать, никакими такими качествами не обладает. В обществе, в котором мы живем, компьютер прежде всего военный инструмент! Безусловно, существует оружие, используемое исключительно для стрельбы по мишеням, но, строго говоря, оружие в нашем обществе — это инструмент, из которого людей убивают. Та же история и с компьютером. Это не просто прибор, и он вовсе не нейтрален, и работать с его помощью — не значит быть ни к чему не причастным…»

Они здесь сделали этот самообман для нас делом очень легким. С помощью своих необычайно хитро придуманных неофициальных правил поведения. Прямо не запрещалось, но считалось нелояльным по отношению к фирме поддерживать дружеские отношения с семьями других научных работников и ученых, по этим правилам каждый вращался в своем строго ограниченном кругу знакомых и близких, никогда не выходя за его пределы, каждый находился под невидимым стеклянным колоколом, ограничивающим контакты с действительной жизнью. Будучи под постоянным наблюдением, ты еще всегда должен следить за тем, чтобы все испытывали состояние восторга от того, что они занимаются изобретениями, изобретательством, экспериментами, и чтобы никому из них в голову не могла прийти мысль о том, что пребывание под колоколом мучительно и даже походит на содержание в тюрьме. Психологически эта атмосфера аранжирована мастерски, и лишь по той причине, что они вышвырнули меня и что я теперь свободен, я впервые думаю об этом столь непредвзято и знаю, что Вейценбаум был прав.

«В принципе мы можем изменить общество — в принципе! И если мы основательно его изменим, если мы, к примеру, построим пацифистское общество, тогда компьютер обретет иную ценность… Однако мы общество не изменяем».