FAQ по трансгуманизму

Один из способов защититься от угрозы черной топи, заключается в создании "активных щитов" — автоматических защитных систем со встроенными ограничениями, предназначенными для предотвращения их использования в агрессивных целях. Можно представить себе глобальную иммунную систему, состоящую из наномашин, блуждающих по поверхности Земли в поисках опасных репликаторов. Проблема с этим подходом заключается в том, что хотя создание надежной глобальной иммунной системы может быть возможным, это может оказаться гораздо сложнее, чем создание разрушительных наномашин. В таком случае, в течение некоторого времени мир будет беззащитен. Необходимо, чтобы в течение этого периода соглашения о нераспространении и всемирный контроль помешали агрессорам злоупотребить нанотехнологией.

Другой способ снизить риск нашей гибели заключается в создании рассредоточенных космических колоний. Опять-таки, проблема состоит в том, что для реализации таких проектов в больших масштабах потребуется слишком много времени.

Сколько будет длиться критический период (от разработки опасных наномашин до создания адекватной защиты), зависит от темпов технического прогресса в течение этого интервала. Те, кто полагают, что в будущем произойдет сингулярность [См. "Что такое сингулярность?"], уверены, что этот период может оказаться очень коротким.

Сверхразум. — Хотя в целом трансгуманисты желают создания сверхразума, некоторые опасаются, что плохо запрограммированный сверхразум может захотеть истребить всех людей или даже уничтожить всю разумную жизнь, включая себя. Что еще усиливает такие опасения, так это идея о том, что сверхразум умственно будет столь чуждым нам и столь превосходящим человеческий разум, что для нас будет очень сложно предвидеть или регулировать его мотивацию и невозможно контролировать его против его воли. [См. "Как постлюди или сверхразумные машины будут относиться к людям, чьи возможности не были расширены?"]

Ядерное и биологическое оружие. — Ядерное и биологическое оружие продолжают оставаться угрозами. Сегодняшних запасов оружия недостаточно, чтобы полностью уничтожить наш вид. Однако вполне возможно, что в будущем с помощью генной инженерии будут созданы еще более смертельные биологические агенты, чем мы имеем сегодня. Хочется надеяться, что разработка вакцин и противоядий не будет отставать от разработки токсинов и возбудителей болезней, но мы не может быть в этом уверены.

Предотвращение распространения оружия массового уничтожения должно иметь самый высокий приоритет для любой ответственной страны. Помимо масштабной войны, способной уничтожить наш вид, слишком легко представить себе "государство-изгой" или террористическую группу, использующих, возможно, с целью шантажа, оружие массового уничтожения, чтобы вызвать большие потери среди гражданского населения и разрушить цивилизацию.

Другие сценарии конца света. — Быстро усиливающийся парниковый эффект, при котором из-за потепления выделяется все больше и больше метана, который сам является парниковым газом, (по мнению большинства трансгуманистов, едва ли это приведет к нашему вымиранию); естественные пандемии, быстро распространяющиеся через межконтинентальный транспорт (вряд ли они погубят нас, но к этому нужно относиться серьезно); столкновение с кометой или астероидом (очень маловероятно); распад метаустойчивого вакуума, вызванный физическими экспериментами в области высоких энергий (энергия, достижимая сегодня, значительно значительно ниже даже энергии космического фонового излучения, но в будущем могут быть разработаны более мощные методы ускорения частиц, которые могут оказаться потенциально опасными). Бесспорно, что существуют и другие опасности, о которых мы пока не догадываемся. В этой связи представляет интерес спорный аргумент Картера-Лесли о конце света (Carter-Leslie Doomsday argument), в котором на основании теоремы Байеса и нескольких небольших эмпирических предположений, делается вывод о том, что риск гибели человечества до сих пор систематически недооценивался [см. ссылку].

Ссылки: Drexler, E. 1986. The Engines of Creation: The Coming Era of Nanotechnology, chapters 11–15. http://www.foresight.org/EOC/index.html Эрик Дрекслер. 1986. Машины созидания: Грядущая эра нанотехнологии, пер. М. Свердлова, главы 11–15. http://mikeai.nm.ru/russian/eoc/eoc.html Leslie, J. 1996.The End of the World: The Ethics and Science of Human Extinction. Routledge. Bostrom, N. 1996. "Observational Selection Effects and Probability" http://www.anthropic-principle.com/preprints.html