Deep Utopia: Life and Meaning in a Solved World

Иногда потребители готовы платить больше за товары, произведенные представителями какой-либо привилегированной группы, например соотечественниками, коренными жителями, местными предприятиями, производителями, работающими по принципу "справедливой торговли", знаменитостями или производителями, с которыми покупателя связывают личные или культурные отношения. И наоборот, такие производственные процессы, как потогонные предприятия, фабричные фермы и механизированное массовое производство, иногда снижают рыночную стоимость создаваемых ими товаров. Почему так происходит? Иногда надбавка к цене отражает воспринимаемую разницу в качестве продукта - но в рассматриваемом нами случае этот фактор скорее работает в пользу автоматизации, поскольку продукты, созданные человеком, объективно хуже. Другая возможная причина связана со статусными мотивами, о которых мы только что говорили. Но не исключено, что предпочтение определенных видов производителей основано на чувстве солидарности. Вы можете покровительствовать определенному продавцу отчасти для того, чтобы продвинуть его или помочь ему каким-то образом, экономически или иным образом. Если хотя бы некоторые будущие потребители хотят, чтобы работа была для людей, они могут доплачивать за товары и услуги, созданные людьми, чтобы сделать их конкурентоспособными по сравнению с альтернативами, созданными машинами. (Мы вернемся к этой возможности в одной из последующих лекций под рубрикой "дар цели").

Религия, обычаи, сентиментальность и особые интересы?

Я прошу прощения за то, что эта категория составлена в виде солянки, но мне нужно куда-то девать кучу предметов, которые, возможно, мы сможем лучше организовать позже. Их объединяет то, что они демонстрируют, как люди предпочитают, чтобы определенные задачи выполнялись людьми, не потому, что человеческий способ более статусный, и не из соображений солидарности, а из-за более непосредственного отношения между тем, что требуют, и человеческими усилиями, которые могли бы пойти на удовлетворение этого требования.

Религия: Возможно, робот-клерик не принес бы пользы, даже если бы был способен говорить и вести себя так же, как человек, - и, возможно, даже если бы был наделен разумом.

Обычай: Церемония или традиция, которую люди могут хотеть и иметь причины поддерживать, может требовать выполнения определенных ритуалов именно людьми-практиками.

Сентиментальность: Работа ребенка с мелками может быть особенно дорога его родителям именно потому, что ее сделал их ребенок. Этот маленький труд, возможно, сложнее автоматизировать, чем работу нейрохирурга или трейдера, торгующего деривативами. Особые интересы: Возьмем профессионального спортсмена. Люди могут предпочесть наблюдать за соревнованиями людей (или гончих и лошадей), а не за спортивными состязаниями роботов или в дополнение к ним, даже если последние более искусны и физически превосходят их во всех отношениях.

Доверие и данные?

Есть несколько более практичных источников потенциального человеческого преимущества, которые также могут привести к сохранению спроса на человеческий труд. Они связаны с эпистемическими ограничениями, которые могут сохраниться даже в период технологической зрелости, хотя, возможно, в конечном итоге они уступят с течением времени и накоплением опыта и проницательности.

Одна из них - доверие. Даже если ИИ может делать все то, что может делать человек, и даже если ИИ на самом деле заслуживает доверия в той же или большей степени, чем человек, мы не можем знать, что это так. Если речь идет о задачах, для решения которых важно доверие, мы можем предпочесть, чтобы их выполнял проверенный человек или мы сами, а не делегировать их относительно новым и незнакомым искусственным системам. При принятии решений, требующих больших затрат, ради большей уверенности стоит смириться с дополнительными расходами и снижением скорости и эффективности. Некоторые виды работ, связанные с наблюдением за работой искусственных интеллектов, могут относиться к этой категории.

В принципе, недоверие может ограничить распространение автоматизации, независимо от того, насколько способными и эффективными станут машины. Однако кажется правдоподобным, что со временем барьеры доверия будут стираться по мере того, как искусственные системы будут накапливать опыт, конкурирующий или превосходящий опыт людей, принимающих решения, или по мере того, как мы будем открывать другие способы проверки надежности и согласованности. Со временем машинам, вероятно, будут доверять больше, чем людям.