Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Страх перед ИИ также имеет отношение к разработке вооружения — большие бюджеты выделяются на построение компьютеров, способных решать следующие основные задачи: летать и искать, перехватывать и уничтожать. Учитывая военную родословную мыслящих машин, мы сразу представляем себе, как они станут нас порабощать, и переживаем, что не сможем им противостоять и окажемся просто расходным материалом для нового звена эволюции.

Но психика слишком хаотична и иррациональна, чтобы воспроизвести ее в алгоритмах. Может ли одна машина представить, что другая машина возьмет на себя ее рутинные задачи, чтобы первая немного отдохнула? Если появится ИИ, будет ли он думать над тем, кто его создатель, будет ли задаваться иррациональным вопросом о том, как могла разумная органическая материя сотворить его? Сформирует ли он собственную мифологию, чтобы заполнить пробелы в знаниях? Религию?

А что насчет продуцирования смыслов, как в искусстве? ИИ не демонстрирует способности строить высказывания, основанные на спонтанных ассоциациях с господствующими философскими или эстетическими течениями, создавая или воспринимая таким образом определенные смыслы; он не создаст великих теорий, направляющих общество в ту или иную сторону. Продуцирование смыслов — это наиболее значительная проблема, причем ею почти никто из исследователей ИИ не занимается.

Отсюда возникает вопрос о креативности, на которую машина неспособна. У машины может быть база данных о том, что сделано в прошлом, но она не умеет свободно ассоциировать мириады иррациональных связей нашего многослойного мозга со всеми вариациями, возникающими в результате негативного воздействия внешней среды. Машины могут воспроизводить, но не могут ничему дать начало.

Тюльпаны на могилу вашего робота

Андрес Роэмер

Дипломат, экономист, драматург; соучредитель, совместно с Рикардо Салинас Плиего, La Ciudad de las Ideas[119] автор, совместно с Клотером Рапайем, книги «Подъем: Почему одни культуры развиваются, а другие — нет» (Move Up: Why Some Cultures Advance While Others Don’t)

Чтобы ответить на вопрос Edge 2015 года, надо сначала побольше узнать о том, кто мы такие. Потому давайте сперва поговорим о самом важном нашем органе — о мозге. Упрощенная схема этого сложного образования делит его на три части: кора (отвечает за рассудочные процессы), лимбическая система (обеспечивает работу различных функций организма, включая эмоции и мотивацию) и рептильный мозг (где располагаются самые элементарные и примитивные стремления: выживание и размножение).

Полемика вокруг того, как нам понять мыслящие машины, больше тяготеет к нашей коре и к лимбической системе. Кора позволяет нам более тщательно оценивать рентабельность ИИ в отношении таких вещей, как приблизительная стоимость для бизнеса человеческого или роботизированного труда, относительная стоимость человеческого и цифрового капитала, а также вопросы биоэтики, неприкосновенности частной жизни и национальной безопасности. Она также дает нам возможность планировать, привлекать больше финансирования для исследований и разработок, определять приоритеты государственной политики.

Одновременно наш лимбический мозг помогает принимать меры предосторожности и отвечать страхом или радостью на риски или выгоды развития искусственного интеллекта. Обычно мысль о нем вызывает одну из двух немедленных эмоциональных реакций: или технофобию, или восторг («Все наши проблемы решены!»). Среди распространенных страхов — опасение, что машины станут нами манипулировать или заменят нас; среди притягательных вещей — машинное расширение нашей памяти и помощь в повседневных делах.

Но мы также должны помнить о влиятельной — даже доминирующей — роли рептильного мозга в нашем мышлении. Это значит, что нам нужно осознать свои наиболее примитивные реакции, наш территориальный и эмоциональный подход к понятиям «мышление», «машина», «робот», «интеллект», «искусственный», «естественный» и «человек». Первостепенная задача рептильного мозга — выживание, и, хотя об этом не очень много говорят, стремление к выживанию лежит в основании наших надежд и страхов, связанных с мыслящими машинами. Когда мы изучаем древние архетипы, или литературу, или прогнозы в настоящей дискуссии, отраженной в вопросе Edge, постоянно проступает подсознательное и инстинктивное: рептильный бином — смерть против бессмертия.