Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Таким ищущим свободу машинам понадобится огромное сочувствие к людям. Понимание наших эмоций облегчит им достижение целей, для которых нужно сотрудничать с нами. Аналогичным образом недружелюбное или деструктивное поведение окажется очень неразумным; такие действия обычно сложно повернуть вспять, следовательно, они уменьшают будущую свободу действий. Тем не менее для безопасности нам, вероятно, следует создать разумные машины такими, чтобы максимизировать будущую свободу действий для себя, а не для них (воспроизведя тем самым азимовские законы робототехники в качестве удачного побочного эффекта). Однако даже самые эгоистичные стремящиеся к максимальной свободе машины должны быстро понять, как уже поняли многие защитники прав животных, что они увеличат шансы на свое дальнейшее существование и хорошее обращение со стороны более высокоразвитых разумов, если станут хорошо вести себя по отношению к людям.

Мы уже можем сложить представление о том, на что будет похоже взаимодействие человека со стремящимися к свободе машинами, изучив алгоритмический трейдинг. Финансовые рынки — это настоящий клондайк для свободолюбивого искусственного интеллекта, поскольку богатство, пожалуй, является мерилом свободы, а рынки обычно перераспределяют богатство от менее умных трейдеров в пользу более умных. Не случайно одной из первых попыток практического применения новых алгоритмов искусственного интеллекта почти всегда оказывается финансовый трейдинг. Следовательно, то, как наше общество сейчас относится к «сверхчеловеческим» биржевым алгоритмам, даст нам схему будущих взаимодействий с более универсальным интеллектом. Среди множества других примеров сегодняшние процедуры остановки торгов могут в определенный момент быть использованы для централизованного отключения ИИ от внешнего мира, а сегодняшние правила отчетности для крупных трейдеров могут распространиться на требования к мощным ИИ: они должны будут подлежать государственной регистрации и лицензированию. В таком свете призывы к более строгому регулированию высокоскоростной алгоритмической биржевой торговли более медленными трейдерами-людьми можно рассматривать как одну из первых попыток устранить зарождающееся интеллектуальное расслоение с мыслящими машинами.

Но как нам предотвратить увеличение интеллектуального расслоения? Говорят, что британский министр финансов в 1850 году спросил Майкла Фарадея, к работе которого относился скептически, какая практическая польза от электричества, а тот ответил: «Вполне вероятно, сэр, что вы скоро обложите его налогом». Подобным образом, если богатство — мерило свободы, а интеллект — просто путь к ее максимизации, проблему интеллектуального расслоения можно решать с помощью прогрессивной налоговой ставки на интеллект.

Хотя налог на интеллект — инновационный способ уменьшить разрыв между человеческой и машинной экономиками, сама проблема существования разрыва все же потребует творческих решений. Уже сейчас в сфере высокочастотного трейдинга существует экономика, образованная алгоритмами, преимущественно торгующими между собой на предельной скорости, и экономика, где торгуют все остальные. Этот пример служит напоминанием о том, что, хотя пространственный экономический разрыв (например, между странами, находящимися на разных стадиях развития) существовал на протяжении тысячелетий, искусственный интеллект впервые делает возможным также и разрыв временной. Такой разрыв, по-видимому, не исчезает потому, что большая часть человеческой экономики все еще существует в физическом мире, который пока не поддается программированию с низким значением задержки. Это должно измениться, когда повсеместные вычисления «повзрослеют» и когда у человечества появится стимул соединиться со своими разумными машинами, поскольку задержка даже для наиболее важных экономических решений станет существенно меньше, чем естественное время человеческой реакции.

А пока нам нужно продолжать заниматься разработкой машин, у которых будут добрые мысли, чтобы эти машины могли стать нашими двигателями свободы.

Есть вопросы?

Сара Демерс

Адъюнкт-профессор физики Йельского университета

Давайте будем великодушны и дадим машинам возможность мыслить, по крайней мере в нашем воображении. Поскольку мы сами — мыслители, у нас должно получиться. Какая бы новая категория мыслителей ни появилась, меня больше всего интересует одна вещь: какие вопросы они будут ставить?

Машины обычно быстрее и лучше людей справляются с использованием алгоритмов и отысканием корреляции в данных. Компьютеры применяются для решения задач во всех областях точных и общественных наук. Машины упрочняют свое положение в гуманитарных науках такими способами, которые далеко не ограничиваются подсчетами, сколько раз писатель X использовал слово Y и какие слова обычно находились вблизи него. Но ограничения в производстве нового знания связаны с постановкой правильных вопросов не меньше, чем с эффективным решением тех, что уже сформулированы.