Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Мы могли бы сказать, что машинное «мышление» относится к человеческой мысли как модель явления — к самому явлению, что это заведомо простое описание сложного процесса, которое тем не менее может быть адекватным и точно способно оказаться полезным. Такие слова, как и сами машины, стоит рассматривать как своеобразные символические обозначения для того, в чем мы хотели бы разобраться. Описание машин как «мыслящих» сущностей может быть просто эвристическим приемом; конструкция машины может быть очевидно биомиметической[98]. Действительно, мы часто приспосабливаем язык биологии, чтобы говорить о предметах, которые создаем. Мы видим, что машины эволюционируют, что их мышление становится все более похожим на наше и явно превосходит его, что может быть потенциально опасно. Но нам нужно помнить, что «эволюция» машин — это не биологический процесс, он направляется человеком, создателем. Его можно назвать естественным или биологическим только в том смысле, что он является результатом действий естественных, биологических человеческих существ.

Такое определение естественного приводит к возникновению ряда существенных проблем. Биологическая эволюция — не процесс, направляемый неким творцом. Структуры нельзя создать силой мысли, предпринимательского духа или разума, движимого любопытством. Биологи, философы и социологи, изучающие то, как мы преподаем эволюцию, неоднократно демонстрировали, насколько вредны попытки внедрять в эту дисциплину идеи о разумном замысле или телеологии. Думать, что машины в ходе «эволюции» обзаведутся бо́льшими когнитивными способностями, — значит подкреплять совершенно неверное понимание природы эволюционного процесса. Кроме того, если мы относим машинное «мышление» к естественным процессам, следовательно, все вызванные человеком изменения земной экосистемы, совершенные в результате небрежности или войны, также можно назвать естественными.

Определенно, долю истины мы с помощью аналогий передаем — к примеру, «мозг есть машина» или «машинное мышление», — но это больше говорит о том, как мы объясняем мир. Нам хорошо бы помнить, что наши уникальные познавательные способности — результат множества превратностей и случайностей, произошедших на эволюционной ветви, отделенной от других ныне существующих примерно 6 миллионами лет. На самом деле обычно считается, что абстрактному мышлению всего 50 000 лет, по более оптимистичным оценкам — 200 000 лет, то есть в истории Земли оно появилось очень поздно. Тем не менее оно приводит к тому, что мы рассматриваем мысль машины и человеческую мысль как сопоставимые явления.

Процессы, стоящие за технологическими и биологическими инновациями, радикально различаются, то же относится и к движущим силам в этих процессах. В технологической инновации есть определенный продукт или функция — «мысль» или «мышление», которых мы хотим достичь и к которым стремимся. Человеческие когнитивные способности эволюционировали в популяциях индивидов, совершенно непохожих на машины, которые, как ламарковские жирафы, могут приобретать функциональные характеристики в течение своей жизни. Инновации в биологической эволюции предшествует продолжительная импровизация. Есть только генетика и изменчивость признаков фенотипа в популяциях, среда и случайное влияние этих признаков на продолжительность жизни в популяции.

Что же теряется, если думать, что машины «думают»? Я бы сказала, что мы упускаем из виду ключевые особенности феномена, который описываем с помощью аналогии. Биологическая эволюция возникает в популяциях и не является целенаправленной. Она не пытается решить какую-то задачу. Превратности истории как Земли, так и жизни на ней привели нас к нынешнему состоянию когнитивных способностей человека. Разные процессы ведут к разным результатам. Возьмем, к примеру, язык: компьютер может неточно использовать термины?

Если мы позволим машинам «мыслить», то начнем ли мы в самих себе видеть всего лишь мыслящие машины? Повлияет ли взаимодействие с технологией на наши когнитивные возможности? Важно помнить, насколько разнообразна и прямо-таки неимоверно огромна человеческая популяция. Использование компьютеров пока не связано с успешным размножением. У большей части людей доступ к технологиям в настоящее время ограничен. Эволюция нашего вида будет медленной, и на нее сильно повлияют наше окружение и доступность чистой воды, питательной еды и медицинского обслуживания. Если мы будем обсуждать человечность так же всесторонне, как то, что мы называем «мышлением», мир, возможно, станет лучше.

Универсальное основание человеческого достоинства

Майкл Маккалоу

Профессор психологии, директор лаборатории «Эволюция и поведение человека» Университета Майами; автор книги «Выше мести: Эволюция инстинкта прощать» (Beyond Revenge: The Evolution of the Forgiveness Instinct)