Deep Utopia: Life and Meaning in a Solved World

Давайте представим, как может выглядеть эта процедура. В ваш мозг проникает армада из миллионов скоординированных наноботов. (Возможно, они попадают туда через кровоток и проходят гематоэнцефалический барьер - очевидно, что вся процедура будет совершенно безболезненной, поскольку любые триггеры дискомфорта можно легко подавить). Эти наноботы составляют карту коннектома вашего мозга. Поскольку боты работают в переполненной и электрохимически активной среде, они должны быть осторожны, чтобы не повредить структуры, через которые они проходят и которые измеряют, или же они должны устранить любые повреждения, которые были нанесены в процессе. Картирование должно происходить достаточно быстро, но без выделения чрезмерного количества тепла. Данные, собранные зондами, возможно, после простой локальной предварительной обработки, передаются на компьютер, расположенный вне черепа. (Для этого может быть сконструирован крошечный оптоволоконный кабель, который может проникать в череп или выводиться обратно через кровоток - но не волнуйтесь, его можно удалить без следа, как только процедура будет завершена). На этом более мощном внешнем компьютере работает сверхинтеллектуальный ИИ, который обрабатывает данные и разрабатывает необходимую схему синаптических изменений. После того как изменения определены, информация отправляется обратно на нанороботы, которые выполняют необходимые синаптические операции - укрепляют одни синапсы, ослабляют другие, добавляют новые связи между ранее не связанными нейронами. Скорость важна не только для того, чтобы "загрузка" была удобной, но и потому, что если процесс идет слишком медленно, то нейронные цепи в мозге могут слишком сильно измениться к тому времени, когда вычисленные изменения будут получены обратно от внешнего компьютера, что сделает вычисленные правки неточными.

Обратите внимание, что для воспроизведения эффектов обычного обучения недостаточно "просто записать" несколько дискретных фактов в одной изолированной области коры. Когда мы учимся обычным способом, во многих областях мозга происходят изменения, отражающие эффекты метаобучения, формирование новых ассоциаций с ранее выученным содержанием, изменения в механизмах контроля и внимания, в эпизодической памяти и так далее. Это одна из причин полагать, что количество синаптических весов, которые должны быть отрегулированы, может исчисляться триллионами даже для довольно простого опыта обучения.

Давайте также обратим внимание на еще одно осложнение. Чтобы понять, как изменить существующую матрицу нейронных связей для включения в нее нового навыка или знания, сверхразумный ИИ, осуществляющий эту процедуру, может счесть целесообразным провести симуляцию, чтобы изучить последствия различных возможных изменений. Однако мы можем захотеть, чтобы ИИ воздержался от некоторых видов симуляций, поскольку они могут повлечь за собой создание морально значимых ментальных сущностей, таких как разум с предпочтениями или сознательным опытом. Таким образом, ИИ должен будет разработать план того, как именно модифицировать мозг субъекта, не прибегая к запрещенным видам вычислений. Неясно, насколько это требование усложняет задачу.

Скачивание ментального содержимого было бы проще, если бы принимающий разум был эмуляцией мозга (она же "загрузка"), реализованной программно, а не биологически. В этом случае считывание информации с исходного мозга происходило бы заранее, возможно, в более простых условиях, например, с помощью при деструктивном сканировании витрифицированного мозга, а не in vivo. Последующие операции чтения и записи были бы тривиальными - они просто включали бы редактирование цифрового файла, а сознание можно было бы приостановить на время выполнения этой процедуры. Однако вычислительная операция по определению того, какие правки следует внести в уже существующую нейронную сеть, будет примерно одинаково сложной как в случае цифровой эмуляции мозга, так и в случае биологического мозга.

В итоге, такие занятия, как учеба, где мы прилагаем усилия сейчас, чтобы потом оказаться в состоянии, когда мы будем знать больше или обладать большим мастерством, могут показаться немного бессмысленными в период технологической зрелости, при наличии легких путей к тому же самому пункту назначения.

Мы все еще можем выбрать старый и трудный путь обучения и практики. Но это означало бы навязать себе ненужное усложнение. Это было бы похоже на решение двигаться только прыгая на одной ноге назад, чтобы создать больше трудностей в своей жизни.

Тематическое исследование 4: Воспитание детей

Для многих людей воспитание детей является богатым источником цели и смысла. Обычно родители - даже те, кто может позволить себе переложить все заботы по воспитанию детей на наемную (высококвалифицированную) помощь, - предпочитают посвящать воспитанию своих детей значительное количество времени. Некоторые состоятельные родители отправляют своих отпрысков в школу-интернат, но большинство этого не делает.