Сверхдержавы искусственного интеллекта

Существует мнение, что с появлением СИИ у машин, способных к самосовершенствованию, начнется стремительное развитие компьютерного интеллекта. Это явление часто называют сингулярностью или эрой искусственного сверхразума. Если так и произойдет, мир могут заполнить компьютеры, превосходящие нас в интеллектуальном плане настолько же, насколько мы превосходим насекомых. Столь фантастические предсказания разделили большую часть интеллектуального сообщества на два лагеря: утописты и сторонники антиутопии. Утописты видят в расцвете СИИ и наступлении сингулярности последний рубеж, отделяющий нас от светлого будущего, в котором человечество раздвинет границы сознания и победит смерть. Рэй Курцвейл – эксцентричный изобретатель и крупнейший идеолог Google – считает, что в будущем люди и машины сольются воедино. По его представлению, люди будут «загружать» свой разум в облака и постоянно обновлять ткани тела с помощью специально обученных нанороботов, введенных в кровоток. Курцвейл предсказывает, что к 2029 году мы получим компьютеры с интеллектом, сопоставимым с человеческим (т. е. СИИ), а точка сингулярности будет достигнута к 2045 году[63].

Другие мыслители-утописты видят в СИИ средство, которое позволит нам быстро разгадать тайны Вселенной. Основатель DeepMind Демис Хассабис считает, что с помощью сверхчеловеческого интеллекта мы, наконец, разрешим задачи, казавшиеся неразрешимыми: остановим глобальное потепление и научимся побеждать ранее неизлечимые заболевания. Сверхразумные компьютеры, понимающие Вселенную на немыслимых уровнях сознания, помогут человечеству справиться с его бедами, и люди приблизятся к божественному всеведению и всемогуществу.

Однако не все настроены столь оптимистично. Илон Маск назвал суперинтеллект «самой большой опасностью, с которой мы можем столкнуться как цивилизация»[64], сравнивая его создание с «призыванием демонов»[65]. Многие выдающиеся интеллектуалы, в том числе покойный космолог Стивен Хокинг, присоединились к лагерю антиутопистов Маска, некоторые из них – вдохновившись работой оксфордского философа Ника Бострома, чья книга «Искусственный интеллект. Этапы. Угрозы. Стратегии»[66], вышедшая в 2014 году, захватила воображение значительного числа футуристов.

По большей части сторонники антиутопической версии будущего не боятся, что ИИ захватит мир, как это было показано в фильмах вроде «Терминатора», в которых человекоподобные роботы охотятся на людей, охваченные жаждой поработить человечество. Суперинтеллект будет продуктом, созданным человеком, а не появившимся в результате естественной эволюции, а потому у него не может быть тех инстинктов выживания, размножения или доминирования, которые управляют поведением людей или животных. Скорее всего, он просто будет стремиться достичь поставленных перед ним целей наиболее эффективным способом. Опасность состоит в том, что если люди окажутся препятствием для достижения одной из этих целей – например, обратить вспять глобальное потепление, то суперинтеллект может легко, даже случайно, стереть их с лица земли.

Чтобы сделать это, компьютерной программе, чей разум и воображение намного превосходят человеческие, не потребуется никаких вооруженных роботов. Глубокое понимание химии, физики и нанотехнологий позволит ИИ мгновенно достичь своих целей, используя гораздо более изобретательные способы. Исследователи называют это «проблемой управления» или «проблемой выравнивания значений», и она беспокоит даже тех, кто относится к СИИ с оптимизмом.

Прогнозы о том, когда будут достигнуты такие результаты, сильно расходятся. Бостром в своей книге приводит ответы специалистов по ИИ, которые склоняются к тому, что СИИ появится в 2040 году, а суперинтеллект, скорее всего, – в течение трех десятилетий после этого[67]. Но не будем спешить с выводами.

Проверка в реальных условиях

Когда эти утопические и антиутопические прогнозы обсуждаются публично, то внушают аудитории одновременно благоговение и страх. Постепенно границы между фантастическими картинами и нынешней реальностью в коллективном сознании стираются. В результате возникают распространенные заблуждения о том, на каком уровне мы действительно находимся сегодня и куда движемся. Давайте внесем ясность: ни один из сценариев, описанных выше, будь то бессмертный цифровой разум или всемогущий суперинтеллект, нельзя реализовать на основе современных технологий: ученые пока еще не нашли четких алгоритмов для СИИ и не особенно приблизились к их открытию. Сингулярность не может возникнуть спонтанно, и автономные транспортные средства, в которых используются технологии глубокого обучения, не могут внезапно «проснуться» и понять, что способны объединиться и сформировать сверхразумную сеть.