Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Во-вторых, и это гораздо более конструктивно, связанные с мышлением переживания определяют виды мышления, которыми мы займемся потом. Были ли наши последние мысли трудными, скучными, приятными, интересными? От этого зависит, как часто мы станем прибегать к мышлению того или иного вида. Я не утверждаю, что у наших переживаний от первого лица нет также и нейронных коррелятов. Но ни один ученый или философ не сможет вам сказать, почему нейронные процессы, происходящие определенным образом, вызывают определенные переживания или вообще какие-либо переживания. Это одна из величайших тайн Вселенной (существование материи, существование жизни, существование переживания).

Будем ли мы делать все больше машин, способных продуцировать такие паттерны ввода-вывода, которые воспроизводят человеческие? Бесспорно. Будем ли мы строить машины, способные заниматься чем-то бо́льшим и создавать полезные алгоритмы и способы трансформации данных, которыми люди смогут пользоваться самостоятельно и которые улучшат качество жизни? Мы уже их строим и построим еще больше. А появятся ли у нас машины, способные на мышление от первого лица, то есть способные переживать собственное мышление? Сомневаюсь. Решение этой проблемы может стать величайшим достижением человечества, но для начала нужно осознать существование проблемы. Мне бы очень хотелось увидеть машины, мыслящие от первого лица, но, пока мы не начнем разбираться в том, что делает нас такими машинами, все остальное — просто калькулятор.

Мягкий авторитаризм

Майкл Вассар

Футуролог; основатель и старший научный сотрудник BayesCraft

— Думать? Думать — не твое дело!

Я тут буду думать.

Интеллектуальная не-мыслящая система, обращаясь к интеллектуальной мыслящей системе

Мыслящие машины скоро появятся. Сейчас, однако, давайте подумаем над интеллектуальными инструментами. Интеллектуальные инструменты не мыслят. Поисковые системы не мыслят. Не мыслят и роботизированные автомобили. Мы, люди, часто тоже не думаем. Мы обычно движемся на автопилоте, как и другие животные. Наши начальники, как правило, не хотят, чтобы мы думали; это может сделать ситуацию непредсказуемой и поставить под угрозу их власть. Если машины заменят нас там, где мы не думаем, то у нас начнутся неприятности.

Предположим, что «думать» относится ко всему, что люди делают с помощью мозга. Специалисты называют думающую машину универсальным искусственным интеллектом. Они согласны с тем, что такая машина может привести к вымиранию нашего вида. Вымирание, однако, не единственный экзистенциальный риск. По мнению эксперта в области машинного сверхразума Ника Бострома, экзистенциальный риск — это нечто, способное «уничтожить возникшую на Земле разумную жизнь или окончательно и бесповоротно сократить ее потенциал»{11}. Примерами экзистенциальных рисков являются, в частности, старая добрая ядерная война, новые проблемы типа неконтролируемого глобального потепления, маргинальные гипотезы наподобие катастрофы на ускорителе частиц и набирающий все большую популярность фаворит — искусственный интеллект. Однако в течение нескольких десятков лет наиболее серьезный экзистенциальный риск исходит от тех видов интеллекта, которые не думают, и от новых видов мягкого авторитаризма, которые могут появиться в мире, где большинство решений принимается бездумно.

Кое-что из того, что люди делают с помощью мозга, очень впечатляет, и в ближайшее время программам таких результатов не достичь. Написать роман, соблазнить человека, создать компанию — с подобными вещами интеллектуальные инструменты не справятся. То же, конечно, относится и к созданию машины, которая действительно думает. С другой стороны, в большинстве случаев мышление можно улучшить за счет «тонкой нарезки» с помощью процедур, которые обычно не сравнимы с алгоритмами. Например, когда нужно поставить больному диагноз и назначить лечение, списки контрольных вопросов повышают точность оценки, хотя люди со списками менее надежны, чем системы искусственного интеллекта. Автоматизация сестринского дела остается задачей далекого будущего, но больница, в которой все решения принимают машины, была бы гораздо более безопасным местом для пациента — это объективная реальность, с которой сложно спорить.