Наполовину мертвый кот

В общем, не вдаваясь в детали, которых множество, можно уверенно заявить: с вызовом компьютеризации мы не справились. Справимся ли с новым, который будет гораздо серьезнее? Компьютер на принципах нейронной сети будет не просто «мощнее», какой бы смысл в него ни вкладывали. Важно другое. Наши коммуникации с ним будут иными. Уже сегодня ведутся работы по взаимодействию мозга человека и компьютера. Разрабатывается (опять же с помощью нанотехнологий) интерфейс «мозг человека — компьютер — мозг человека». Если вы обездвиженный калека, это ваш шанс вернуться к активной жизни. Нанодатчики считывают картину коры головного мозга — энцефалограмму. Сигналы интерпретируются компьютером и передаются на робот-манипулятор, выполняющий желаемое действие. Манипулятор снабжен датчиками, обеспечивающими аналог тактильных ощущений, иными словами, чувство осязания. Сигнал вновь обрабатывается компьютером и передается в мозг. У человека полное ощущение, что он берет нужный предмет манипулятором, ощущает его вес, прохладу или теплоту, влажность или сухость.

Но при мощном компьютере, умеющем строить убедительную виртуальную реальность (а компьютер, построенный на принципах нейронной сети, именно такой), манипулятор в принципе и не нужен — у вас в мозгу сигнал, и вы уверены, что манипулятор есть, что им вы на бумаге написали прекрасные стихи… А весь мир, кажущийся вам реальностью, всего лишь плод «воображения» нейронного мозга. Плюс, конечно, интерфейс «мозг — машина — мозг».

Вы не пробовали жить в мире, где параллельные пересекаются? Как ни крути их — во всех семи измерениях? И не стоит! Вряд ли после этого вы сможете нормально жить в нашем трехмерном. Увы, на фоне этого проблема наркотиков может показаться невинной.

Конечно, проблему ухода в виртуальную реальность можно контролировать — правда, с тем же успехом, что и распространение наркотиков, но все же… А вот другую…

Компьютер обыграл мирового шахматного чемпиона. Уже. И не потому, что умнее, ведь программу написал человек. Мы часто слышим рефрен нашего времени: «компьютер посчитал», не задумываясь, что это лишь созданный человеком алгоритм. И поэтому не задумываемся также над тем, подходит ли этот конкретный алгоритм, ставший стандартным, и потому заложенный в программу, именно к нашей задаче. Мы все равно сами это проверить не можем. Для этого нам надо проделать все с самого начала — написать новую программу вместо уже существующей. Удивительно, но так раньше и делали, причем всегда! А потом программы стали сложнее и дороже, а одновременно — универсальнее, подходящими ко множеству сходных случаев. И мы практически не в состоянии контролировать, что программа делает. Мы лишь верим результату.

Мы стали устойчиво путать знание и информацию и даже не можем отличить информацию от ее имитации — информационного шума. Заглянули в компьютер и написали реферат о барнаульском метрополитене[40].

Рис. 2.5 Схема линий «барнаульского метрополитена», существующего только в Интернете^[41]

Знание ушло. Мы верим компьютеру, пока вполне глупому. А вот представьте, что компьютер умный: что он способен обучаться — а именно этим и отличаются нейронные сети. Будет ли он инструментом в ваших руках, как когда-то логарифмическая линейка? Или наоборот — инструментом будете вы?

Нанотехнологии — необходимая предпосылка искусственного разума в форме нейронных сетей. Но каково будет место другого разума — нашего?!

Краткая таблица рисков

Риск искусственного интеллекта.

Риск замещения реальности — виртуальная реальность принципиально нового качества.

Риск невозможности проверить компьютерные расчеты.

Риск замены активной стороны — решения, принимаемые не человеком, а компьютером.

2.5. Программируемая материя

Многие серьезные вещи начинались с игрушек.

Интернет-афоризм

«Программируемая материя» — термин из области фантастики, благодаря нанотехнологиям имеющий все шансы ворваться в нашу жизнь. Под этим термином скрывается и то, что кажется нам вполне реальным или уже реализовано сегодня, как жидкие кристаллы или материалы с изменяемыми оптическими свойствами, так и то, что мы видим в американских фантастических боевиках вроде «Терминатора».

Серьезность этого направления подтверждается тем, что соответствующие исследования организованы и финансируются DARPA — Агентством передовых оборонных исследовательских проектов Министерства обороны США, отвечающим за разработку новых технологий для использования в вооруженных силах.

Программируемая материя — это нанотехнологический хамелеон, способный принимать различные образы.