Технологии, которые изменят мир

Когда мощный ИИ сможет стать реальностью и возможно ли такое вообще? Я думаю, если опросить ведущих специалистов, работающих в данной области, последовали бы довольно разнообразные прогнозы. Оптимисты могли бы сказать, что это случится в течение следующих 20–30 лет. Более осторожная часть опрошенных предположила бы, что это произойдет лет этак через пятьдесят и более, а некоторые наверняка поспорили бы, что это никогда не осуществится.

Истинный искусственный интеллект – это идея, которая достаточно тесно переплетается с философией, а для некоторых людей – даже с религией. Какова природа интеллекта? Является ли он алгоритмическим? Можно ли его отделить от сознания или самосознания?

Роджер Пенроуз, один из ведущих мировых ученых в области математики и физики, написал несколько книг[106], предполагая, что истинный искусственный интеллект недостижим с помощью обычных компьютеров, поскольку, по его мнению, интеллект (или, по крайней мере, сознание) уходит своими корнями в квантовую механику – область физики, которая определяет вероятностные и, казалось бы, странные взаимодействия, происходящие между частицами субатомных размеров.

Если мощный ИИ действительно появится, как мы об этом узнаем? Впервые этим вопросом задался Алан Тьюринг почти 60 лет назад. Это легендарный британский математик и криптограф времен Второй мировой войны, считающийся основателем информатики. В 1950 году Тьюринг опубликовал работу, названную «Вычислительные машины и разум», в ней он предложил тест, который помог бы ответить на вопрос «Может ли машина мыслить?».

Тест Тьюринга был основан на популярной в то время игре. Говоря на современном языке, он представляет собой разговор в форме трехстороннего обмена мгновенными сообщениями. Один из участников является судьей. Остальные два – это человек и компьютер, одновременно пытающиеся в ходе беседы убедить судью, что они – люди. Если судья не может определить, кто из участников есть кто, в таком случае утверждают, что машина прошла тест Тьюринга.

Пожалуй, тест Тьюринга – это самый известный и широко используемый метод измерения истинного интеллекта машины. На практике правила теста нуждаются в дальнейшей корректировке, и вполне вероятно, что потребуется коллегия судей, а не один судья. На мой взгляд, основной проблемой в тесте Тьюринга является то, что данный тест, как сам Тьюринг указывал в своей статье, – это «имитационная игра». Что она на самом деле проверяет, так это способность умной машины подражать человеку. Это не испытание самого интеллекта. Предположим, что разговор может быть практически на любую тему, поэтому вполне очевидно, что умную машину можно сбить с толку отсутствием реального человеческого опыта.

Изобретение мощного ИИ означало бы появление истинного инопланетного разума здесь и сейчас, а не в сигналах, получаемых от одного из радиотелескопов, которые используются в проекте SETI (программа поиска внеземного разума). Мы, разумеется, не могли бы рассчитывать на то, что такое иноземное существо будет мыслить так же, как и мы, или непременно сможет копировать наш опыт или взгляды. Полагаю, что лучший тест для истинного машинного интеллекта будет аналогичен разработанному судьей Верховного суда Поттером Стюартом критерию того, что является порнографией: «Узнаю, когда увижу».

Если это все-таки произойдет, то появление действительно интеллектуальных машин понесет в себе немало потенциальных опасностей для нашего общества и экономики[107]. Однако есть более серьезная угроза, исходящая от сильного ИИ: он отвлекает нас от прямых экономических последствий, которые, скорее всего, будут результатом ограниченного ИИ. По последним сообщениям прессы[108], машины в настоящее время обладают интеллектом, равным интеллекту насекомых. Другими словами, если бы мы захотели создать широко интеллектуальную машину, мы наверняка получили бы что-то примерно с уровнем интеллекта таракана.

Проблема такого сравнения заключается в том, что оно дает нам ложное чувство уверенности в завтрашнем дне, лакирует очевидную действительность отсутствия у тараканов способности как совершить посадку самолета, так и обыграть человека в шахматы. Когда возможности машин рассматриваются в узком смысле, все обстоит совершенно иначе. Без сомнения, в ближайшие годы и десятилетия наше определение того, что является «ограниченным» искусственным интеллектом, существенно расширит свои границы. Если оно увеличится до такой степени, что машины начнут посягать на значительную часть рабочих мест, поддерживающих потребителей, то жизнеспособность капитализма в конечном итоге будет подорвана. Если, конечно, наша экономика не адаптируется к новой реальности.

Об авторе