Сообщество разума

Если разум, чьи составные части используют разные языки и способы мышления, пытается заглянуть внутрь себя, лишь немногие из упомянутых агентов смогут понять друг друга. Людям, которые говорят на разных языках, достаточно сложно общаться, а сигналы, используемые разными частями разума, несомненно, различаются и того сильнее. Если агент М задал любой вопрос «чуждому» агенту Ц, как этот последний поймет, о чем его спрашивают и как М поймет его ответ, если таковой все же будет? Большинство пар агентов вообще не в состоянии общаться.

6.12. Внутренняя связь

Если агенты не способны общаться, почему на это способны люди, несмотря на все различия в происхождении, образе мыслей и стремлениях? Ответ заключается в том, что мы переоцениваем собственную способность к коммуникации. Вопреки различиям, которые выглядят значимыми, мы по большей части опираемся в своих действиях на общие знания и опыт. Посему, пускай мы почти ничего не знаем о наших низкоуровневых ментальных процессах, мы можем воспользоваться их общим «наследием». Мы не в состоянии выразить, что конкретно имеем в виду, зато часто можем ссылаться на различные примеры комбинирования структур, которые – мы в этом убеждены – уже существуют в разуме нашего собеседника. Если коротко, мы указываем, о чем надо думать, пусть даже не можем описать сами мысли.

Слова и символы, которые мы используем для обобщения наших высокоуровневых целей и планов, не совпадают с сигналами для контроля низкоуровневых структур. Поэтому, когда наши агенты более высокого уровня пытаются исследовать деятельность низкоуровневых «субмашин», которые им подчиняются, они не могут разобраться в происходящем. Вот почему, вероятно, наши языковые агенты не могут внятно изложить, как удерживать равновесие на велосипеде, как отличать картины от реальных пейзажей и как извлекать факты из памяти. Особенно тяжело использовать наши языковые навыки для рассуждений о составных частях разума, которые осваивают такие умения, как балансирование, наблюдение и запоминание, прежде чем мы начали учиться говорить.

«Значение» само по себе относительно с точки зрения размера и масштаба; оправданно рассуждать о значении только в системе, достаточно крупной для того, чтобы иметь много значений. Для малых систем понятие значения выглядит бессмысленным и излишним. Например, агентам Строителя не нужны значение и смысл для выполнения своей работы; оператор «Добавить» просто обращается к операторам «Взять» и «Поместить». Следовательно, этим последним не требуется понимание того, что «означают» управляющие сигналы, поскольку их привлекают для выполнения конкретной работы, не для чего больше. В общем случае чем мельче агент, тем труднее будет другим агентам понять его «язык».

Чем меньше два языка, тем сложнее перевод с одного на другой. Дело не в чрезмерном обилии значений, а в их скудости. Чем меньше действий выполняет агент, тем слабее вероятность того, что действия другого агента будут отвечать этой деятельности. Если же два агента не имеют между собой ничего общего, перевод невозможен.

В более привычной ситуации трудностей перевода в человеческих языках каждое слово имеет много значений, и главная проблема заключается в том, чтобы сузить разнообразие значений до единого общего. Но в случае коммуникации между несвязанными агентами такое сужение значений бесполезно, если агенты изначально не имеют ничего общего.

6.13. Самопознание опасно

Призыв «познать себя» вполне может показаться заслуживающим внимания, ибо он сулит некое благо. Но этот якобы благой призыв маскирует заблуждения. Несомненно, разум, который хочет изменить себя, может извлечь выгоду из знания о том, как он устроен и как работает. Однако подобное знание легко может подтолкнуть к саморазрушению, ведь мы лезем неуклюжими ментальными пальцами в хитроумные мыслительные схемы разума. Может, поэтому наш разум упорно заставляет нас играть в эти психические прятки?

Просто оцените, насколько мы склонны ставить рискованные эксперименты, посредством которых изменяем себя; насколько роковым оказывается влечение к наркотикам, к медитации, к музыке, даже к беседам. Все это сильные одержимости, способные преобразовать нашу личность. Просто вспомните, насколько все люди восхищаются перспективой выйти за пределы обыденных удовольствий и вознаграждений.