Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

• Сознание ощущается исключительно нефизическим потому, что оказывается дважды независимым от субстрата: если сознание — это самоощущение, возникающее при обработке информации определенным образом, то значение имеет только структура собственно информационного процесса, но не структура вещества, обеспечивающего этот процесс.

• Если искусственное сознание возможно, то пространство возможных переживаний искусственного интеллекта в сравнении с человеческим должно быть несопоставимо велико, охватывая широчайший спектр квалиа и временных масштабов — включая ощущение свободы воли.

• Поскольку без сознания невозможен никакой смысл, то не наша Вселенная дает смысл сознающим существам, а сознающие существа дают смысл нашей Вселенной.

• Так как людям предстоит уступить место умнейших существ во Вселенной машинам, мы должны свыкнуться с новой ролью — Homo sentiens, а не Homo sapiens.

Эпилог Сказание о команде FLI

Самая печальная сторона жизни сейчас заключается в том, что наука обретает знания быстрее, чем общество обретает мудрость.

Айзек Азимов

Итак, мой дорогой читатель, мы добрались до конца книги, изучив происхождение и судьбы разума, целей и смысла. Так как же воплотить эти идеи в действия? Что конкретно мы должны сделать, чтобы наше будущее было как можно лучше? Именно этот вопрос я задаю себе прямо сейчас, сидя у окна, по пути из Сан-Франциско в Бостон 9 января 2017 года, возвращаясь с конференции по искусственному интеллекту, которую мы только что провели в Асиломаре, поэтому позвольте мне закончить эту книгу, делясь с вами своими впечатлениями.

Мейя задремала в соседнем кресле, утомленная бессонными ночами, наполненными хлопотами и приготовлениями. О, что за неделька это была! Нам удалось на несколько дней собрать вместе на сиквел в Пуэрто-Рико почти всех, упоминавшихся в этой книге, включая Илона Маска, Ларри Пейджа, ведущих исследователей по искусственному интеллекту из университетов и компаний, таких как DeepMind, Google, Facebook, Apple, IBM, Microsoft и Baidu, а также многих экономистов, юристов, философов и других блестящих мыслителей (см. рис. 9.1). Результат превзошел мои самые смелые ожидания, и я пребываю на вершине оптимизма, какого не знал долгое время, по поводу будущего жизни. Здесь, в эпилоге, я хочу объяснить вам почему.

Рождение FLI

С тех пор как в возрасте четырнадцати лет я узнал о гонке ядерных вооружений, меня тревожило, что мощь наших технологий растет быстрее, чем мудрость, с которой мы управляем ими. Поэтому я решил вставить главу об этой проблеме в мою первую книгу Our Mathematical Universe, несмотря на то, что в основном она была о физике. К началу 2014 года я дал новогоднее обещание, что больше не стану жаловаться ни на что, не подумав сначала самым серьезном образом над тем, как лично я могу что-то сделать ради исправления ситуации, и я держал свое обещание, пока ездил, представляя книгу, на протяжении всего января: мы с Мейей провели в это время не один мозговой штурм, решая, как нам создать некоммерческую организацию, служащую для всемерного улучшения будущего жизни путем адекватного управления технологической средой.

Мейя настаивала на том, что мы должны дать этой организации какое-то оптимистическое название, как можно больше отличающееся от чего-нибудь вроде «Институт кошмара и ужаса» или «Давайте побеспокоимся о будущем». Так как название «Институт будущего человечества» было уже занято, мы сошлись на «Институте будущего жизни» (Future of Life Institute, FLI), у которого было дополнительное преимущество, заключающееся в возможности расширительных толкований. 22 января мы должны были проводить презентацию книги в Санта-Крузе, и во время ужина с нашим старым другом Энтони Агирре, глядя, как калифорнийское солнце опускается в Тихий океан, мы уговорили его объединить наши силы. Он не только один из умнейших людей, кого я знаю, и всегда полон идей, но у него уже есть опыт ведения дел одной из некоммерческих организаций, Института основополагающих вопросов (Foundational Questions Institute, http://fqxi.org), созданного нами более десятилетия назад.

На следующей неделе тот же тур привел меня в Лондон. Поскольку будущее искусственного интеллекта владело моим сознанием, я связался с Демисом Хассабисом, который любезно пригласил меня посетить штаб-квартиру DeepMind. Я был потрясен, увидев, насколько они выросли с того времени, как посещали меня в MIT двумя годами раньше. Google только что купил их за 650 миллионов долларов, и, оценивая впечатляющий интеллектуальный пейзаж их офиса, наполненного самыми блестящими умами, которые устремились к дерзкой цели Хассабиса «разрешить задачу разума», я преисполнился висцеральным предчувствием реально возможного успеха.