Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Технический прогресс привел к появлению ядерного, биологического и химического оружия массового уничтожения и беспилотных аппаратов с дистанционным управлением. Стоит ли вообще разрабатывать такие вещи? Простота доступа к необходимым знаниям, вопросы распространения технологий и проблемы в области контроля технологий двойного назначения (гражданского и военного) делают решение еще более сложным.

Роботы и ИИ способны повысить производительность. Хотя их немногочисленные создатели могут получить огромную выгоду, воздействие на экономическую активность будет ограниченным. Учитывая, что потребление составляет более 60 процентов экономической активности в развитых странах, снижение занятости и уровня доходов вредит экономике в целом. В начале 1950-х годов «Форд» построил новый автоматизированный завод. Начальник завода задал вопрос главе Профсоюза работников автомобильной промышленности Уолтеру Рейтеру, посетившему предприятие с официальным визитом: «Как вы планируете собирать профсоюзные взносы с этих ребят (с роботов)?» Рейтер ответил: «А как вы планируете сделать так, чтобы они покупали „форды“?»

Когда дело касается технологий, человечество редко ведет себя логично. Мы часто не признаем, что чего-то нельзя или не стоит делать. Прогресс принимается безоговорочно и без понимания того, что нам нужно знать и зачем. Мы не знаем, когда, где и как нужно использовать наши творения, не знаем пределов их возможностей. Часто не знаем реальных последствий или не сознаем их в полной мере. Сомневающихся сразу же называют луддитами.

Технология и ее проявления, такие как машины или ИИ, — это иллюзии, апеллирующие к человеческим амбициям и тщеславию, умножающие смятение, которое мы находим в «пустыне зеркал»[108] Томаса Стернза Элиота. Человек как вид попросту слишком мал, незначителен и нерационален, чтобы справиться с любой из задач, которые, как мы думаем, мы можем выполнить. Размышления о мыслящих машинах только подтверждают эту неприятную истину.

По-разному

Роберт Сапольски

Нейробиолог, Стэнфордский университет; автор книги «Обезьянья любовь» (Monkeyluv)

Что я думаю о мыслящих машинах? Ну, я думаю по-разному — зависит от того, о ком конкретно идет речь.

Будут ли машины думать за нас?

Афина Вулуманос

Адъюнкт-профессор психологии Нью-Йоркского университета; ведущий исследователь лаборатории проблем детской познавательной психологии и общения Нью-Йоркского университета

Если мы не можем понять даже того, как мыслит двухлетний ребенок, или, раз уж на то пошло, ребенок, которому два дня от роду, машины, мыслящие как люди, не появятся еще несколько десятилетий. Но когда мы все же создадим машины, способные «думать», каким будет их мышление? Ответ на этот вопрос определит будущее человеческих сообществ.

Когда машины действительно начнут мыслить, первым делом мы избавимся от тяжелого физического труда; прощайте каждодневная готовка, походы за продуктами и в особенности уборка. Скоро мы опять окажемся в таком мире, где у богатых или образованных людей (тех, у кого есть доступ к новейшим технологиям) снова появится больше свободного времени.

Если машины когда-нибудь будут способны к сложному человеческому мышлению, то они также будут способны писать программы, выполнять значительную часть нашей работы, а возможно, даже создавать для нас произведения искусства. Но что тогда делать обычным людям? Появляется мрачная перспектива стать зомбированными потребителями в мире, которым правят машины, — картинка прямо из апокалиптического фильма про будущее.

Но есть и куда более оптимистичный прогноз: мы сможем больше времени уделять тем вещам, которые мы все время откладываем. Мы сможем чаще играть с нашими детьми и заниматься их обучением, больше общаться с родителями, выстраивать более надежные социальные сети из настоящих людей. Мы сможем больше времени уделять своим увлечениям, чаще подниматься в горы, осваивать новые навыки просто ради удовольствия. Мы сможем сосредоточить свою энергию на важных проблемах, до которых сейчас руки не доходят из-за рутинных дел и всяческих мелочей: на счастливой жизни, на самосовершенствовании и созидании справедливого мира — для людей и для умных машин.

Если машины мыслят как люди, людям придется хорошенько подумать о том, как реализовать эту последнюю перспективу. На одном позитивном мышлении нам до нее не добраться.

«Простите за беспокойство»

Брайан Кристиан

Автор книги «Самый человечный человек: как искусственный интеллект учит нас тому, что значит быть живым» (The Most Human Human: What Artificial Intelligence Teaches Us About Being Alive)