Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Я проваливаюсь в эту дыру, то есть я либо испытываю такое смятение, что перестаю думать, либо извлекаю из ее пустоты идею или решение (в моем случае произведение искусства), достигающее так называемого желаемого результата: то есть другие (некоторые из них) реагируют определенным образом. Не так уж интересно на самом деле. Умеют ли так «ориентированные на результат» машины? Вот как я думаю — в смятении и томлении. Машины могут прийти в смятение? Они когда-нибудь «перестают думать», когда думают?

Когда я монтирую фильм, мой видеоредактор иногда «вылетает», если компьютер перегружен, но такой сбой не создает в машине никакой дыры, никакой пустоты, которая подпитывала бы мысль. Когда я «вылетаю», есть вероятность, что что-то войдет в мое затуманенное, несфокусированное сознание, и я смогу двинуться в новом направлении. Это та часть моего мышления, которую, я полагаю, компьютер воспроизвести не в силах. Я ошибаюсь? Мои познания о машинах невелики. Я бестолочь, поэтому мечусь туда-сюда и иногда на что-то натыкаюсь. Что-то глубокое и замечательное? Один шанс из ста — может быть.

О’кей. Я чувствую эту дыру, которую, как я привык считать, надо заполнять (обычно чем-то уже известным). Я придерживаюсь мнения, что заполнить ее — все равно что немножко умереть. Лучше так: что я могу сделать — так это построить вокруг нее святилище, чтобы дыра стала более «звучной», однако все еще «пустой». (Я полагаю, что именно так и может работать серьезный художник — а кто еще?) Но «строительство» вокруг дыры — это не творческое мышление, а то, что делается вместо творческого мышления, хотя тут есть о чем подумать. Но в дыре-то все и дело: воплощение и развитие «тайны», которая перекликается с «великой тайной», как я «осмысливаю» подлинное содержание «мышления». (Заключает ли это меня в тесную коробочку под названием «я-художник», то есть делает ли невменяемым?)

Допустим, машины могут «как бы мыслить», причем их мощность и сложность растут, они разворачивают все более и более широкие сети, но те никогда не становятся одной дырой. Машины мыслят? Тавтология. Они облегчают мою жизнь и мое функционирование в обществе. Ясно, что один из видов мышления — не таинственное хождение по кругу в попытках высечь искры, которые как раз и являются искомой «сущностью» (смею ли я такое говорить?).

Это меня беспокоит. Могу ли я ответить, что я думаю о мыслящих машинах? Да, меня это беспокоит, но машины неспособны беспокоиться (ведь неспособны же?). О’кей, «беспокоиться» — значит быть не в состоянии подумать о чем-то еще, отвлечься от фокуса беспокойства. Результат — черная пелена! Пустота, чистый лист. Но с этого чистого листа я, возможно, вдруг переключусь на некую продуктивную тему (с какой конечной целью и обязательна ли она?). Машина способна вот так вдруг переключиться на другую тему? Будет ли это мышлением?

То, что мы обычно называем «мышлением», прямо-таки мучительно целенаправленно. Но есть ли какая-либо цель, не связанная с определенным результатом, и только ли человеческий мозг способен ухватить подобную извращенную идею, которая может завести неизвестно куда? О’кей, теперь уже совершенно ясно, зачем мне ходить кругами, чтобы высказать очевидное утверждение о том, что мыслящие машины — это современный Троянский конь. Все (включая меня) хотят получить от них многочисленные сладкие плоды, хотя с помощью этих плодов машины лепят нас по своему образу, уничтожая глубинную пустоту внутри каждого из нас, в которой скрывается наше творческое начало. И зачем мне было ходить кругами, чтобы дойти сюда, где я высказываю мнение, не стоящее даже ритма моих кружений… это дыра. Да, я попался в ловушку, которую сам построил, — как и любой другой. Но не так, как мыслящие машины! Ловушка, в которую они попадают, — ну, они же не могут «знать»!

Кто боится искусственного интеллекта?

Ричард Талер

Основоположник поведенческой экономики; директор Центра по исследованию решений, Школа бизнеса им. Бута при Чикагском университете; автор книги «Новая поведенческая экономика: Почему люди нарушают правила традиционной экономики и как на этом заработать» (Misbehaving: The Making of Behavior Economics)[114]

Мои краткие замечания по этому вопросу построены на двух коротких шутках, которые в свое время были произнесены выдающимися израильтянами. Первая принадлежит моему другу, соратнику и наставнику Амосу Тверски. Когда я как-то спросил его, что он думает по поводу искусственного интеллекта, Амос съязвил, что не очень хорошо в этом разбирается, поскольку специализируется на тупости. (Спокойно! Амос на самом деле, конечно, не думает, что люди тупые.)