Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Предположение, что мы можем рассматривать себя в качестве случайно выбранных элементов, иногда оспаривается, но на самом деле является краеугольным камнем научного метода. В физике и других науках теории почти никогда не дают точных прогнозов. Вместо этого мы вычисляем вероятностное распределение на основании теории. Возьмем атом водорода: вероятность обнаружить электрон в миле от протона не равна нулю, она просто очень-очень мала. Однако когда мы находим электрон, то не принимаем всерьез возможность того, что он является частью некоего далекого атома водорода. Чаще всего, повторив эксперимент достаточно много раз и найдя вероятность определенного исхода достаточно низкой в соответствии с некоторой гипотезой, мы отвергаем эту гипотезу и переходим к следующей. Поступая таким образом, мы делаем ставку на то, что не являемся очень нетипичными наблюдателями.

Важное правило: мы не формулируем вопрос, после того как провели наблюдение, так, чтобы результат выглядел удивительным. Например, не важно, где мы обнаружим электрон; постфактум вероятность его обнаружения в конкретной точке в сравнении со всеми остальными местами, где он мог оказаться, в любом случае была мала. Это бессмысленно, поскольку мы вряд ли сформулировали бы вопрос таким образом до проведения измерений. Аналогично люди вполне могут быть атипичны в отношении некоторых измеренных нами переменных: не исключено, что у самых умных объектов в видимой части Вселенной не по десять пальцев. Однако наше расположение в полном временно́м распределении всех людей на Земле для нас неизвестно. Мы знаем, сколько прошло времени, знаем, сколько людей родилось с момента появления человека, но не знаем, как это соотносится с полным временным диапазоном или общим числом разумных наблюдателей на Земле. Предположение о типичности можно применить к этим вопросам.

Наша типичность делает крайне маловероятными следующие два сценария: (а) люди продолжат существовать много миллионов лет — с помощью мыслящих машин или без; и (б) люди будут вытеснены более долгоживущей или более крупной цивилизацией совершенно иного типа, например мыслящими машинами. Если бы хоть один из них реализовался, то мы оказались бы среди первых разумных наблюдателей на Земле либо во времени, либо в численности, а следовательно, были бы очень атипичны.

Типичность подразумевает нашу вероятную гибель в течение следующих нескольких миллионов лет. Но из этого никак не следует, что ее придется принять от рук (или других конечностей) искусственного интеллекта; как бы там ни было, недостатка в сценариях конца света мы не испытываем.

Типичность соотносится с возможностью существования достаточно большого числа цивилизаций, которые формируются и угасают где-то в нашей галактике или за ее пределами. По тем же причинам маловероятно, что продолжительность жизни таких цивилизаций значительно превосходит нашу — малую долю жизни звезды. Даже если планеты, подобные Земле, встречаются часто, о чем свидетельствуют данные наблюдений, возможно, сигналы от разумных существ просто нельзя поймать теми средствами, что есть у нас. Тем не менее если нас интересует, станет ли доминирование разумных машин последней, а то и вовсе фатальной стадией эволюции, то изучение отдаленных планетарных систем будет не худшей отправной точкой.

Страх божий, новая версия

Джеймс Кроук

Художник

Искусственный интеллект — это очень быстрый поиск по базам данных. Проблема с данными заключается в том, как присваивать значения разным их фрагментам, почему один фрагмент должен быть оценен выше, чем другой. Чтобы вопрос о том, какая идея важнее, имел хоть малейший смысл, значение пришлось бы классифицировать на триллионе смысловых уровней. Поскольку всякая идея — это комбинация множества значений, компьютеру пришлось бы создавать новый алгоритм для каждой части уравнения и проводить комбинаторный анализ каждого значения. Потом ему нужно было бы создать модель, чтобы спроецировать последствия рассматриваемого решения на будущее. Но, поскольку для людей это слишком сложно и им пришлось бы создавать компьютер, каковы шансы?

Несмотря на эти технические препятствия для создания ИИ, наиболее заметной реакцией на возможность его появления в отдаленном будущем можно считать страх того, что он окажется сильнее нас и станет с нами плохо обращаться. Машины будут лучше нас и начнут поступать с нами так, как мы поступали со всеми формами жизни, существовавшими до нас, — как с эволюционным мостиком к нашей, более высокоразвитой форме жизни. Страх перед ИИ — это новое воплощение нашего первобытного бессознательного страха перед всеведущим, всемогущим и гневливым богом, властвующим над нами, но в новой эфирной форме.