Читаем I Am a Strange Loop полностью

At one point, Stanley’s video camera picked up another robot vehicle ahead of it (this was H1, a rival vehicle from Carnegie-Mellon University) and eventually Stanley pulled around H1 and left it in its dust. (By the way, I am carefully avoiding the pronoun “he” in this text, although it was par for the course in journalistic references to Stanley, and perhaps also at the AI Lab as well, given that the vehicle had been given a human name. Unfortunately, such linguistic sloppiness serves as the opening slide down a slippery slope, soon winding up in full anthropomorphism.) One can see this event taking place on the videotape made by that camera, and it is the climax of the whole story. At this crucial moment, did Stanley recognize the other vehicle as being “like me”? Did Stanley think, as it gaily whipped by H1, “There but for the grace of God go I?” or perhaps “Aha, gotcha!” Come to think of it, why did I write that Stanley “gaily whipped by” H1?

What would it take for a robot vehicle to think such thoughts or have such feelings? Would it suffice for Stanley’s rigidly mounted TV camera to be able to turn around on itself and for Stanley thereby to acquire visual imagery of itself? Of course not. That may be one indispensable move in the long process of acquiring an “I”, but as we know in the case of chickens and cockroaches, perception of a body part does not a self make.

A Counterfactual Stanley

What is lacking in Stanley that would endow it with an “I”, and what does not seem to be part of the research program for developers of self-driving vehicles, is a deep understanding of its place in the world. By this I do not mean, of course, the vehicle’s location on the earth’s surface, which is given to it down to the centimeter by GPS; it means a rich representation of the vehicle’s own actions and its relations to other vehicles, a rich representation of its goals and its “hopes”. This would require the vehicle to have a full episodic memory of thousands of experiences it had had, as well as an episodic projectory (what it would expect to happen in its “life”, and what it would hope, and what it would fear), as well as an episodic subjunctory, detailing its thoughts about near misses it had had, and what would most likely have happened had things gone some other way.

Thus, Stanley the Robot Steamer would have to be able to think to itself such hypothetical future thoughts as, “Gee, I wonder if H1 will deliberately swerve out in front of me and prevent me from passing it, or even knock me off the road into the ditch down there! That’s what I’d do if I were H1!” Then, moments later, it would have to be able to entertain counterfactual thoughts such as, “Whew! Am I ever glad that H1 wasn’t so clever as I feared — or maybe H1 is just not as competitive as I am!”

An article in Wired magazine described the near-panic in the Stanford development team as the desert challenge was drawing perilously near and they realized something was still very much lacking. It casually stated, “They needed the algorithmic equivalent of self-awareness”, and it then proceeded to say that soon they had indeed achieved this goal (it took them all of three months of work!). Once again, when all due hat-tips have been made toward the team’s great achievement, one still has to realize that there is nothing going on inside Stanley that merits being labeled by the highly loaded, highly anthropomorphic term “self-awareness”.

The feedback loop inside Stanley’s computational machinery is good enough to guide it down a long dusty road punctuated by potholes and lined with scraggly saguaros and tumbleweed plants. I salute it! But if one has set one’s sights not just on driving but on thinking and consciousness, then Stanley’s feedback loop is not strange enough — not anywhere close. Humanity still has a long ways to go before it will collectively have wrought an artificial “I”.

CHAPTER 14

Strangeness in the “I” of the Beholder

The Inert Sponges inside our Heads

WHY, you might be wondering, do I call the lifelong loop of a human being’s self-representation, as described in the preceding chapter, a strange loop? You make decisions, take actions, affect the world, receive feedback, incorporate it into your self, then the updated “you” makes more decisions, and so forth, round and round. It’s a loop, no doubt — but where’s the paradoxical quality that I’ve been saying is a sine qua non for strange loopiness? Why is this not just an ordinary feedback loop? What does such a loop have in common with the quintessential strange loop that Kurt Gödel discovered unexpectedly lurking inside Principia Mathematica?

Перейти на страницу:

Похожие книги

Хрущёвская слякоть. Советская держава в 1953–1964 годах
Хрущёвская слякоть. Советская держава в 1953–1964 годах

Когда мы слышим о каком-то государстве, память сразу рисует образ действующего либо бывшего главы. Так устроено человеческое общество: руководитель страны — гарант благосостояния нации, первейшая опора и последняя надежда. Вот почему о правителях России и верховных деятелях СССР известно так много.Никита Сергеевич Хрущёв — редкая тёмная лошадка в этом ряду. Кто он — недалёкий простак, жадный до власти выскочка или бездарный руководитель? Как получил и удерживал власть при столь чудовищных ошибках в руководстве страной? Что оставил потомкам, кроме общеизвестных многоэтажных домов и эпопеи с кукурузой?В книге приводятся малоизвестные факты об экономических экспериментах, зигзагах внешней политики, насаждаемых доктринах и ситуациях времён Хрущёва. Спорные постановления, освоение целины, передача Крыма Украине, реабилитация пособников фашизма, пресмыкательство перед Западом… Обострение старых и возникновение новых проблем напоминали буйный рост кукурузы. Что это — амбиции, нелепость или вредительство?Автор знакомит читателя с неожиданными архивными сведениями и другими исследовательскими находками. Издание отличают скрупулёзное изучение материала, вдумчивый подход и серьёзный анализ исторического контекста.Книга посвящена переломному десятилетию советской эпохи и освещает тогдашние проблемы, подковёрную борьбу во власти, принимаемые решения, а главное, историю смены идеологии партии: отказ от сталинского курса и ленинских принципов, дискредитации Сталина и его идей, травли сторонников и последователей. Рекомендуется к ознакомлению всем, кто родился в СССР, и их детям.

Евгений Юрьевич Спицын

Документальная литература
1937. Трагедия Красной Армии
1937. Трагедия Красной Армии

После «разоблачения культа личности» одной из главных причин катастрофы 1941 года принято считать массовые репрессии против командного состава РККА, «обескровившие Красную Армию накануне войны». Однако в последние годы этот тезис все чаще подвергается сомнению – по мнению историков-сталинистов, «очищение» от врагов народа и заговорщиков пошло стране только на пользу: без этой жестокой, но необходимой меры у Красной Армии якобы не было шансов одолеть прежде непобедимый Вермахт.Есть ли в этих суждениях хотя бы доля истины? Что именно произошло с РККА в 1937–1938 гг.? Что спровоцировало вакханалию арестов и расстрелов? Подтверждается ли гипотеза о «военном заговоре»? Каковы были подлинные масштабы репрессий? И главное – насколько велик ущерб, нанесенный ими боеспособности Красной Армии накануне войны?В данной книге есть ответы на все эти вопросы. Этот фундаментальный труд ввел в научный оборот огромный массив рассекреченных документов из военных и чекистских архивов и впервые дал всесторонний исчерпывающий анализ сталинской «чистки» РККА. Это – первая в мире энциклопедия, посвященная трагедии Красной Армии в 1937–1938 гг. Особой заслугой автора стала публикация «Мартиролога», содержащего сведения о более чем 2000 репрессированных командирах – от маршала до лейтенанта.

Олег Федотович Сувениров , Олег Ф. Сувениров

Документальная литература / Военная история / История / Прочая документальная литература / Образование и наука / Документальное
1917: русская голгофа. Агония империи и истоки революции
1917: русская голгофа. Агония империи и истоки революции

В представленной книге крушение Российской империи и ее последнего царя впервые показано не с точки зрения политиков, писателей, революционеров, дипломатов, генералов и других образованных людей, которых в стране было меньшинство, а через призму народного, обывательского восприятия. На основе многочисленных архивных документов, журналистских материалов, хроник судебных процессов, воспоминаний, писем, газетной хроники и других источников в работе приведен анализ революции как явления, выросшего из самого мировосприятия российского общества и выражавшего его истинные побудительные мотивы.Кроме того, авторы книги дают свой ответ на несколько важнейших вопросов. В частности, когда поезд российской истории перешел на революционные рельсы? Правда ли, что в период между войнами Россия богатела и процветала? Почему единение царя с народом в августе 1914 года так быстро сменилось лютой ненавистью народа к монархии? Какую роль в революции сыграла водка? Могла ли страна в 1917 году продолжать войну? Какова была истинная роль большевиков и почему к власти в итоге пришли не депутаты, фактически свергнувшие царя, не военные, не олигархи, а именно революционеры (что в действительности случается очень редко)? Существовала ли реальная альтернатива революции в сознании общества? И когда, собственно, в России началась Гражданская война?

Дмитрий Владимирович Зубов , Дмитрий Михайлович Дегтев , Дмитрий Михайлович Дёгтев

Документальная литература / История / Образование и наука