Опаляющий разум

«Вопрос. Согласны ли вы с прогнозом, который мы иногда слышим, что дело идёт к созданию машин, которые будут изобретательнее человека?

Ответ. Осмелюсь сказать, что если человек не изобретательнее машины, то это уже слишком плохо. Но здесь нет убийства нас машиной. Здесь будет самоубийство.

Вопрос. Действительно ли существует для машины тенденция становиться сложнее, изобретательнее?

Ответ. Мы делаем сейчас гораздо более сложные машины и собираемся сделать ещё гораздо более сложные машины в ближайшие годы. Есть вещи, которые пока совсем не дошли до общественного внимания, вещи, которые заставляют многих из нас думать, что это случится не позже чем через какие-нибудь десять лет».

— Эти десять лет прошли, — сказал Витовский. — Может ли человек теперь соревноваться с машиной в решении интеллектуальных задач?

Витовский, конечно, сам знал ответ. Мне оставалось лишь рассказать о новых универсальных машинах серии «КМ» и о последних конструкциях своих эвротронов. Он выслушал, не перебивая, потом спросил, что я в этой связи думаю о будущем.

Я ответил примерно следующее.

Было бы величайшим легкомыслием закрывать глаза на проблему «человек и машина». Беда не в бунте машин. Эти шкафы и ящики абсолютно не способны бунтовать. Проблема как раз в обратном: машины слишком хорошо работают на нас. Допустим, машина заменяет труд экономиста. Что должен делать этот экономист? Совершенствоваться, учиться, перейти на более сложную работу? Но не так просто совершенствоваться в тридцать, сорок или пятьдесят лет. К тому же сейчас почти все машины тоже способны совершенствоваться в процессе работы. И они это делают очень быстро, куда быстрее человека!

Когда-то машины вытеснили человека из сферы физического труда в сферу труда умственного. Потом машины начали умнеть. Поставить точку, прекратить совершенствование интеллектуальных машин? В мире, разделённом на многие государства, это не так просто. Да и сама «постановка точки» была бы странной: интеллектуальные машины — не оружие, они должны служить человеку…

Пока мы ограничиваемся полумерами: люди переходят в менее «кибернетические» отрасли, быстро увеличивается число людей, занимающихся искусством.

— А как вы смотрите на возможность соревнования человека с машиной? — спросил Витовский. — Человек тоже развивается, не так ли?

Я возразил: человек развивается слишком медленно. За три тысячи лет мозг человека почти не изменился. Для ощутимых изменений нужны десятки тысяч лет.

— Это так и не так, — сказал Витовский. — Машины действительно развиваются много быстрее человека. Рассматривая проблему «человек и машина», мы видим не меняющегося человека и быстро меняющуюся машину. Но ведь сама кибернетика, развиваясь, даёт средства для форсированного, очень быстрого развития человеческого мозга. Значит, если не отмахнуться от проблемы «человек и машина» (а такая тенденция есть), можно гармонически развивать людей и машины, сохраняя между ними оптимальную дистанцию. Как вы думаете?

Я, кажется, ответил невпопад. Меня ошеломила неожиданная идея о возможности (для всего человечества!) жить в состоянии непрерывного усовершенствования, столь же стремительного, как и развитие машин.

Да, как ни удивительно, в бессчётных спорах вокруг проблемы «человек и машина» всегда молчаливо предполагают, что «человек» — это сегодняшний человек, а «машина» — это будущая машина. Считается само собой разумеющимся, что возможности человеческого мозга через двадцать лет или через столетие останутся почти такими же, как сегодня. Да и через тысячу лет «конструкция» человека не претерпит принципиальных изменений. Так, во всяком случае, думают фантасты.

Я не случайно упомянул о фантастике. Наука пока не занимается вопросом о людях XXI или тем более XXX века. В планах исследовательских работ среди тысяч и тысяч тем нет ни одной, посвящённой человеку будущего. Наше представление о будущих людях формируется отчасти интуитивно, отчасти под влиянием фантастической литературы. Поэтому к проблеме «человек и машина» мы подошли с теми представлениями о людях будущего, какие были привиты нам фантастикой.

Что ж, если «конструкция» человека принципиально не меняется, машины неизбежно окажутся умнее нас. Это вопрос времени, и только. Подчёркиваю ещё раз: машины нас не съедят. Они только будут всё лучше и лучше выполнять нашу работу, в том числе производственную, исследовательскую, административную.

Многолетние дискуссии постепенно выработали компромиссную (я бы сказал — половинчатую) точку зрения: теоретически машины могут стать сколько угодно умными, но практически создание подобных машин невероятно сложно и произойдёт это ещё весьма не скоро. Примерно так относились в 20-х и 30-х годах к проблеме атомной энергии: вообще, мол, возможно, однако трудности таковы, что потребуются многие столетия… Как известно, всё произошло значительно быстрее.