Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Но зачем останавливаться на людях? Раз вы понимаете, что мозг — это мыслящая машина, то причинение страданий животным вы тоже не сможете оставить безнаказанным. Все-таки мыслящие машины других позвоночных не так уж отличаются от наших; мыслящие машины заставляют их что-то любить, чего-то бояться и реагировать на боль так же, как реагируем мы. Тогда какое может быть моральное оправдание унижению достоинства животных просто потому, что они не способны ничего сказать в свою защиту?

Все мы хотим, чтобы к нам относились с уважением, но до сих пор было сложно найти универсально-обоснованный довод, чтобы этого требовать. Понимание того, что наш мозг — мыслящая машина, созданная в ходе естественного отбора, может хоть немного приблизить нас к цели, поскольку показывает, что мы в общем совершенно одинаковые. Эта идея никак не умаляет человеческого достоинства; напротив, благодаря ей мы заново открываем золотое правило нравственности, подойдя к нему с другой стороны.

Мысли о людях, которые мыслят как машины

Хаим Харари

Физик; экс-президент Института Вейцмана; автор книги «Вид из ока бури» (A View from the Eye of the Storm)

Когда мы говорим «машины, которые мыслят», то обычно подразумеваем «машины, которые мыслят как люди». Очевидно, что машины мыслят различными способами: инициируют события, обрабатывают данные, принимают решения, делают выбор и реализуют многие другие (но не все) аспекты человеческого мышления. Но настоящий вопрос заключается в том, могут ли машины мыслить как люди. Все тот же старинный тест для искусственного интеллекта: вы наблюдаете результат мышления и не знаете, принадлежит оно компьютеру или человеку.

Некоторые научные светила приходят в ужас от идеи о том, что миром могут управлять мыслящие машины. Я не уверен, что эти страхи обоснованы. Меня больше беспокоит то, что миром могут управлять люди, которые мыслят как машины, — это главная новая тенденция нашего цифрового общества.

Можно научить машину следовать алгоритму и выполнять в нужном порядке определенные операции, которые логически связаны друг с другом. Она будет делать это быстрее и точнее любого человека. При наличии хорошо сформулированных постулатов или аксиом чистая логика — козырь мыслящей машины. Но умение задавать вопросы и принимать решения, опираясь на здравый смысл, пока остается прерогативой людей. Сочетание интуиции, эмоций, эмпатии, опыта и культурного фона и способность использовать это все, чтобы ставить актуальные вопросы и делать выводы, объединяя внешне не связанные факты и принципы, — вот отличительные качества человеческого мышления, которых пока нет у машин.

Человеческое общество быстрыми темпами идет к правилам, инструкциям, законам, инвестиционным механизмам, политическим догмам и моделям поведения, которые слепо следуют строгой логике, даже если она основана на ошибочных посылках или очевидно противоречит здравому смыслу. Религиозный экстремизм всегда эволюционировал на основе неких абсурдных аксиом, из которых логически вытекали бесконечно трагичные следствия. Отдельные дисциплины, такие как юриспруденция, бухгалтерское дело и некоторые области математики и техники, под влиянием бюрократических структур и СМИ, благоговеющих перед жестким управлением, часто ведут к появлению непрозрачных принципов типа «полной прозрачности» и терпимому отношению к радикальным проявлениям нетерпимости. Этот тренд и ему подобные склоняют нас к решению задач более алгоритмическими и логическими методами, часто за счет здравого смысла. Если здравый смысл, как бы мы его ни определяли, описывает преимущества людей перед машинами, сегодня мы наблюдаем не что иное, как явное отдаление от этого инкрементного человеческого качества.

К сожалению, разрыв между человеческим и машинным мышлением можно сузить двумя способами, и, когда люди начинают мыслить как машины, мы автоматически достигаем цели «машины мыслят как люди», подходя к ней не с той стороны. Очень умный человек, который приходит к определенным выводам на основании одной строки информации, на долю секунды оторвавшись от десятков электронных писем, СМС и твитов (не говоря об остальных цифровых помехах), стоит не выше обладающей средним интеллектом машины, которая анализирует большие объемы релевантной информации, а потом делает преждевременные заключения или подписывает общественную петицию, не разбираясь в предмете.