Как работает мозг

Возвращаясь собственно к вопросу о том, как сформировалось мышление, ученые попробовали применить генетические алгоритмы к нейронным сетям. Нейронная сеть получает входные данные от смоделированных органов чувств, а выходные данные поступают на смоделированные ноги, при этом сеть помещается в виртуальную среду, где есть произвольно расположенная «пища» и другие сети, конкурирующие за нее. Те сети, которым удастся собрать больше всего пищи, оставляют больше всего копий; затем начинается следующий цикл мутации и отбора. Мутации представляют собой произвольные изменения в весах связей, иногда после них происходит половая рекомбинация сетей (они обмениваются некоторыми из своих весов связей). Во время первых повторов цикла «животные» (или, как их иногда называют, «аниматы») в произвольном порядке блуждают по территории, изредка случайно наталкиваясь на источники пищи. Однако по мере эволюции они начинают передвигаться напрямую от одного источника пищи к другому. Более того, популяция сетей, которой дана возможность формировать в процессе эволюции «врожденные» веса связей, часто справляется с задачей лучше, чем одиночная нейронная сеть, которой дана возможность обучиться им. Это особенно справедливо в отношении сетей с множественными скрытыми уровнями, которые, несомненно, есть у всех сложных животных, и в частности – у человека. Если сеть может только учиться, но не эволюционировать, обучающий сигнал, получаемый из внешней среды, ослабевает по мере передачи к скрытым уровням и может приводить к приращению или сокращению весов связей лишь в незначительной мере. С другой стороны, если популяция сетей способна эволюционировать – даже если она не способна обучаться, – мутации и рекомбинации могут напрямую перепрограммировать скрытые уровни и очень быстро превратить сеть в совокупность врожденных связей, которая оказывается гораздо более приближенной к оптимальной. Происходит естественный отбор в пользу врожденной структуры[192].

Эволюция и обучение могут иметь место и одновременно, когда врожденная структура развивается у животного, которое при этом обучается. Популяции нейронных сетей можно дать общий алгоритм обучения и возможность формировать врожденные элементы, до которых разработчик сетей так или иначе мог дойти – будь то в результате догадки, по традиции или методом проб и ошибок. Врожденные характеристики включают в себя количество узлов, тип связей между ними, исходные значения весов связей и то, каким образом они должны увеличиваться или уменьшаться после каждого эпизода обучения. Симуляция эволюции дает сетям значительное преимущество на старте их учебной деятельности.

Итак, эволюция может влиять на процесс обучения нейронных сетей. Удивительно, но и обучение может влиять на эволюцию. Вспомните рассуждения Дарвина о «начальных стадиях полезных особенностей строения» и дискуссию о том, что толку в половине глаза. Теоретики нейронных сетей Джеффри Хинтон и Стивен Наулан придумали циничный пример. Представьте животное, которым управляет нейронная сеть всего с двадцатью связями, и каждая из них либо возбуждающая (включена), либо нейтральная (выключена). Но эта сеть совершенно бесполезна, пока не заданы правильно значения всех двадцати связей. Ни для чего не пригодна будет не только половина сети, но даже 95 % сети. В популяции животных, у которых связи нейронов определяются самопроизвольными мутациями, более приспособленный мутант с правильно заданными связями будет появляться всего в одном случае на каждый миллион (2²⁰) генетически отдельных друг от друга организмов. Что еще хуже, выгода сразу же оказывается утрачена, если животное начинает размножаться половым путем, потому что в этом случае, едва сумев найти волшебную комбинацию нужных весов связей, оно половину из них теряет. В ходе симуляций по такому сценарию не смогла эволюционировать ни одна сеть.

Теперь рассмотрим популяцию животных, у которых нейронные связи могут быть трех типов: врожденные возбуждающие, врожденные тормозящие или задаваемые как возбуждающие или тормозящие в ходе обучения. Мутации определяют, какой из этих трех вариантов (возбуждающая, тормозящая, формируемая в процессе обучения) будет та или иная связь при рождении животного. У среднего животного в таких симуляциях около половины связей являются формируемыми в процессе обучения, остальные связи – либо возбуждающие, либо тормозящие. Обучение работает следующим образом. Каждое животное в начале жизни пытается задавать значения формируемых в процессе обучения связей наугад, пока не найдет волшебную комбинацию. В реальной жизни это может быть определение того, как поймать добычу или расколоть орех; что бы это ни было, животное чувствует, что на этот раз ему повезло, и сохраняет данные настройки, больше не прибегая к методу проб и ошибок. С этих пор у него будет более высокий коэффициент воспроизводства. И чем раньше животное приобретет нужные настройки, тем дольше оно будет иметь этот более высокий коэффициент размножения.