God, Human, Animal, Machine: Technology, Metaphor, and the Search for Meaning

В конце концов Брукс усомнился в уместности вычислительной метафоры, на которой он основывал свои теории. Он признал, что на протяжении всей истории люди сравнивали сознание со многими другими технологическими артефактами: часами, мельницами, ткацкими станками. Маловероятно, признавал он, что вычисления - это последнее слово. Но он никогда не терял веры в перспективность технологических аналогий. "Кажется маловероятным, что мы еще не поняли метафору правильно", - писал он. "Но нам нужно понять метафору".

Около двадцати лет спустя подход Брукса к воплощенному искусственному интеллекту все еще используется в лабораториях. Один из его бывших аспирантов, Джорджио Метта из Итальянского технологического института, помог создать iCub, человекоподобного робота, призванного имитировать когнитивные способности трехлетнего ребенка. Как и Cog и Kismet, iCub оснащен множеством датчиков и камер, которые наделяют робота сенсорными функциями и двигательными навыками. iCub приобрел ряд способностей - например, ползать на четвереньках, ходить, хватать предметы и направлять взгляд - просто взаимодействуя с окружающей средой. Теория, опять же, заключается в том, что эти сенсомоторные способности в конечном итоге приведут к более развитым когнитивным навыкам, таким как самоощущение или способность использовать язык, хотя пока этого не произошло.

За пределами лабораторий большинство коммерческих систем ИИ сегодня создаются не для достижения искусственного общего интеллекта (интеллекта, включающего все способности и компетенции человека), а для выполнения более узких и специфических задач: доставки еды в кампусах колледжей, управления автомобилями, проверки заявок на кредиты, уборки разливов в продуктовых магазинах. Многие из этих систем все еще наделены человеческими качествами, как, например, роботы в кампусах, которые приветствуют своих клиентов записанными голосами, или домашние помощники - Alexa, Siri-, которые говорят с нами женскими голосами из пустоты. Несмотря на то, что эти роботы часто выглядят убедительно, как люди, в их основе лежат непостижимо сложные алгоритмы - нейронные сети, глубокое обучение, - которые обрабатывают информацию так, что это совсем не похоже на человеческий интеллект. Их способность рассказывать шутки или иронично отвечать на наши вопросы - не свидетельство самосознания, а скорее результат умного программирования. Дэниел Деннетт отметил, что в последнее десятилетие вместо того, чтобы создавать действительно человекоподобных роботов, создатели ИИ оснащают свои машины "милыми гуманоидными штрихами, диснеевскими эффектами, которые очаровывают и обезоруживают непосвященных".

Деннетт утверждает, что главная опасность заключается не в том, что эти социальные роботы внезапно обгонят нас по интеллекту и станут злобными, как считалось раньше, а в том, что мы будем обмануты, преждевременно наделив их отличием человеческого сознания. Способность отказывать этим машинам в человечности, утверждает он, особенно трудно культивировать, поскольку современная политика так часто предостерегает нас от антропоцентризма. "Действительно, способность противостоять соблазну относиться к кажущемуся человеку как к человеку - это уродливый талант, воняющий расизмом или видоизменением", - пишет он. "Многие люди сочтут культивирование такого безжалостно-скептического подхода морально отвратительным, и мы можем предположить, что даже самые опытные пользователи систем время от времени будут поддаваться соблазну "подружиться" со своими инструментами, хотя бы для того, чтобы сгладить дискомфорт от выполнения своих обязанностей". Он утверждает, что нам нужны инструменты, а не коллеги или друзья. И все же технологические компании давно поняли, что их продукты гораздо привлекательнее и прибыльнее, когда людям удается подружиться с ними.

По мере того как роботы все чаще заменяют людей в сфере розничной торговли и общественного питания, эти гуманоидные прикосновения начинают казаться особенно зловещими. Walmart, одна из компаний, которая недавно начала использовать роботов в своих магазинах, уже реализует программы обучения, чтобы помочь своим сотрудникам перейти в другие отрасли, понимая, что количество вакансий в розничной торговле скоро сократится, поскольку их займут машины. Этот процесс происходит постепенно, чтобы предотвратить политические разногласия. Питер Хэнкок, профессор истории автоматизации в Университете Центральной Флориды, отмечает, что эти компании прекрасно понимают, что автоматизация может вызвать протест. "Если вы слишком сильно и слишком далеко надавите, люди перенесут свой гнев на технологию и взбунтуются", - сказал он в интервью New York Times в 2020 году. Важно, чтобы переход происходил поэтапно, чтобы роботы работали вместе с людьми. И особенно важно, чтобы роботы, которые ликвидируют эти рабочие места, выглядели симпатично и не угрожающе". "Это как Мэри Поппинс, - говорит Хэнкок. "Ложка сахара заставляет роботов идти на поправку".

Глава 7