Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Мы живем в критически важную эпоху, в начале расширяющегося волнового фронта преднамеренно спроектированных интеллектов, причем мы можем приложить усилия к тому, чтобы обзавестись набором специализированных интеллектов и объединить их в работоспособные, понимающие друг друга коллективы. Будет так весело заниматься вместе с группами не-человеческих ученых идиотов тем, чем мы сейчас занимаемся с нашими коллегами-людьми, — пережевывать интеллектуальные задачи, используя разумы, в которых переплелись гениальность и слепота, выработанные эволюцией.

Чего захотят мыслящие машины? Опасны ли они будут? Животные вроде нас — это мотивированные разумы, способные предпринимать действия. К счастью, искусственные интеллекты в данный момент таковыми не являются. Их мотивация не связана с исчерпывающей картиной мира, и набор действий, которые они могут предпринимать, очень ограничен (управление перерабатывающими производствами, включение и отключение горна, тщетные попытки найти Wi-Fi). Поскольку мы эволюционировали с определенными адаптационными задачами, наше воображение проецирует драматургию господства приматов на искусственные интеллекты — драматургию, чуждую их природе.

Мы можем их переделать из этаких будд — замечательных учителей, пассивно размышляющих и свободных от желаний и страданий, — в мотивированные разумы, обуреваемые желаниями и способные действовать. Это было бы сумасшествием: нас уже гнетут противоречивые требования человеческого общества. Опасность исходит не от искусственного интеллекта, а от тех людей, в которых запустились хищнические программы и которые задействуют постоянно растущие арсеналы технологических (и вычислительных) инструментов для достижения побед за счет разрушения.

Машины, ворующие мысли

Максимилиан Ших

Искусствовед; адъюнкт-профессор искусствоведения и технологий Университета Северного Техаса в Далласе

Машины все больше занимаются такими вещами, которые раньше считались мышлением, а теперь не считаются, потому что их выполняют машины. Эту мысль я украл, в более или менее точной формулировке, у Дэнни Хиллиса, отца Connection Machine[101] и Knowledge Graph[102]. Воровать мысли — это обычная часть мыслительного процесса и людей, и машин. В самом деле, когда мы, люди, думаем, значительная часть содержания наших мыслей исходит из нашего прошлого опыта или задокументированного чужого. Мы очень редко придумываем что-то совершенно новое. Наши машины в этом от нас несильно отличаются. То, что называется когнитивными вычислениями[103], в сущности представляет собой не что иное, как изощренный ворующий мысли механизм, движимый большим объемом знаний и сложным набором алгоритмов. Подобные ворующие мысли процессы, как в случае человеческих (и гуманистических), так и в случае когнитивных вычислений, производят сильное впечатление, поскольку они способны воровать не только уже существующие мысли, но также мысли потенциальные, если они рациональны и основаны на определенном корпусе знаний.

Сегодня ворующие мысли машины способны создавать «постмодернистские» научные тексты, работы по информатике, которые принимают на конференции, и музыкальные композиции, которые специалисты не отличат от произведений классиков. Как, например, в случае с метеорологией, машины теперь могут продуцировать множество различных когнитивных представлений, основываясь на записях об аналогичных или схожих ситуациях в прошлом. Антиквары эпохи Возрождения были бы очень довольны, потому что эти машины стали триумфом той самой методологии, которая дала начало современной археологии и многим другим отраслям науки и исследовательской деятельности. Но насколько сильно это должно нас впечатлять?

Наши машины становятся все сложнее, как и результаты их работы. Но, по мере того как мы строим более совершенные машины, мы также все больше узнаем о природе. На самом деле природное познание, возможно, намного сложнее и обстоятельнее, чем нынешние воплощения искусственного интеллекта или когнитивных вычислений. Например, насколько изощренным должно нам казаться природное познание, если квантовая когерентность при комнатной температуре помогает птицам в нашем саду ощущать магнитное поле? Насколько сложным должно нам представляться воплощенное познание[104] осьминогов, если можно построить машины Тьюринга исключительно из искусственных мышц? Как нам отвечать на эти вопросы, если мы все еще так далеки от того, чтобы во всех деталях описать происходящее в нашем мозге? Предполагаю, что через 200 лет наши нынешние мыслящие машины будут выглядеть так же примитивно, как «механический турок»[105].