Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Denkraumverlust поможет нам понять не только положительный вывод некоторых экспертов при прохождении теста Тьюринга российско-украинской компьютерной программой «Женя Густман», но также и совершенно иную ситуацию — убийства в ответ на карикатуры, изображающие пророка Мухаммеда. Обе ситуации демонстрируют, насколько возбудимыми и даже легковерными мы бываем, когда нам показывают нечто, очень похожее на что-то другое, причем похожее настолько, что образ и реальность сливаются.

Чтобы пройти тест Тьюринга, машина должна быть неотличимой от собеседника-человека при имитации общения (а не думающей самостоятельно). Однако если бы некий усовершенствованный «Женя Густман» стал настаивать, что у него есть собственные мысли, как бы мы поняли, что это правда? Если он знает, что должен имитировать человеческий разум, как нам отличить сознательное притворство от имитации притворства? Людвиг Витгенштейн характеризовал притворство как особую категорию для обсуждения возможности знать состояние других разумов, рассматривая ситуацию, когда кто-то ошибочно полагает, что притворяется. Способность правильно оценить результаты теста Тьюринга в связи с возможностью самостоятельного искусственного мышления — это центральная часть риторики Витгенштейна: она приводит нас к заключению, что любые усилия здесь обречены на провал, поскольку задействуют данные, не поддающиеся оценке.

Понятие Denkraumverlust связано с непосредственным откликом на что-либо. Хотя утонченная публика может счесть попытку себя обдурить эстетическим переживанием (удачное использование трехмерной перспективы на совершенно плоском холсте, например), но, когда обман действительно удается, реагирует не столь спокойно. В культуре изображения часто подвергаются цензуре; считается, что они могут закоротить наши разумные и вдумчивые реакции. Как правило, речь идет об эротических или жестоких изображениях, но иногда — и о религиозных. Если их разрешить, они могут вызывать инстинктивную непосредственную реакцию, такую же, какую вызвала бы реальная ситуация. Новые, незнакомые технологии часто застают нас врасплох (когда французские моряки в XVIII веке преподнесли тасманийским аборигенам зеркала, это очень плохо кончилось; позже антропологи наблюдали схожие проблемы с фотографиями).

Классический пример искусственно созданной путаницы — это легенда о скульпторе Пигмалионе, страстно полюбившем статую богини, которую он сам изваял. Вскоре появились античные и средневековые арабские механизмы, которые настолько реалистично, оригинально и удивительно звучали и двигались, что люди, хоть и ненадолго, но все же принимали их за живых существ. Мыслящие машины продолжают ту же цирковую традицию. Как статуя Пигмалиона, они создают определенный образ, хоть и не визуальный. Даже если их не одевать так, чтобы они выглядели кибернетическими богинями, они — репрезентация нас самих. Они созданы для того, чтобы представлять для нас информацию (часто соответствующим образом организованную) в последовательном виде — математическом, статистическом, в формате перевода или, как в тесте Тьюринга, разговора.

Однако понятие о мыслящих машинах — это ложный разворот. Такие объекты, несмотря на то что они могут вызывать у нас мощные непосредственные реакции, так и останутся механизмами. Действительно важные результаты даст, как всегда, симбиоз биологии и техники. Этот явно человеческий процесс легко проследить в нашем теле (колесный транспорт — одно из многих механических изобретений, которые позволили облегчить скелет человека) и в мозге (изобретение письменности как способа хранить информацию позволило уменьшить давление отбора на некоторые виды нашей памяти и при этом простимулировать другие).

В любом случае отдельные понятия «человек» и «машина» приводят к возникновению отдельного Denkraumverlust, то есть к потере мысленного пространства, подталкивающей нас к принятию несуществующего дуализма в качестве реальности. На деле это лишь долгосрочная эволюция информационных технологий, от первых репрезентаций и символических конструктов до самого современного искусственного мозга, который делает возможным совершенствование мышления.

Аналоговая революция, которая не смеет назвать свое имя

Джордж Дайсон

Историк науки; автор книги «Собор Тьюринга: Происхождение цифровой вселенной» (Turing’s Cathedral: The Origins of the Digital Universe)

Ни одна отдельная детерминированная машина, к какому бы универсальному классу она ни принадлежала, не будет способна на то, что мы подразумеваем под мышлением, когда говорим о человеческом разуме. Интеллект таких машин может постоянно расти, но для подлинно творческого интуитивного мышления нужны недетерминированные машины, которые могут совершать ошибки, время от времени отступать от логики и учиться. Мышление не настолько логично, как мы думаем.