Читаем Как работает мозг полностью

Возвращаясь собственно к вопросу о том, как сформировалось мышление, ученые попробовали применить генетические алгоритмы к нейронным сетям. Нейронная сеть получает входные данные от смоделированных органов чувств, а выходные данные поступают на смоделированные ноги, при этом сеть помещается в виртуальную среду, где есть произвольно расположенная «пища» и другие сети, конкурирующие за нее. Те сети, которым удастся собрать больше всего пищи, оставляют больше всего копий; затем начинается следующий цикл мутации и отбора. Мутации представляют собой произвольные изменения в весах связей, иногда после них происходит половая рекомбинация сетей (они обмениваются некоторыми из своих весов связей). Во время первых повторов цикла «животные» (или, как их иногда называют, «аниматы») в произвольном порядке блуждают по территории, изредка случайно наталкиваясь на источники пищи. Однако по мере эволюции они начинают передвигаться напрямую от одного источника пищи к другому. Более того, популяция сетей, которой дана возможность формировать в процессе эволюции «врожденные» веса связей, часто справляется с задачей лучше, чем одиночная нейронная сеть, которой дана возможность обучиться им. Это особенно справедливо в отношении сетей с множественными скрытыми уровнями, которые, несомненно, есть у всех сложных животных, и в частности – у человека. Если сеть может только учиться, но не эволюционировать, обучающий сигнал, получаемый из внешней среды, ослабевает по мере передачи к скрытым уровням и может приводить к приращению или сокращению весов связей лишь в незначительной мере. С другой стороны, если популяция сетей способна эволюционировать – даже если она не способна обучаться, – мутации и рекомбинации могут напрямую перепрограммировать скрытые уровни и очень быстро превратить сеть в совокупность врожденных связей, которая оказывается гораздо более приближенной к оптимальной. Происходит естественный отбор в пользу врожденной структуры[192].

Эволюция и обучение могут иметь место и одновременно, когда врожденная структура развивается у животного, которое при этом обучается. Популяции нейронных сетей можно дать общий алгоритм обучения и возможность формировать врожденные элементы, до которых разработчик сетей так или иначе мог дойти – будь то в результате догадки, по традиции или методом проб и ошибок. Врожденные характеристики включают в себя количество узлов, тип связей между ними, исходные значения весов связей и то, каким образом они должны увеличиваться или уменьшаться после каждого эпизода обучения. Симуляция эволюции дает сетям значительное преимущество на старте их учебной деятельности.

Итак, эволюция может влиять на процесс обучения нейронных сетей. Удивительно, но и обучение может влиять на эволюцию. Вспомните рассуждения Дарвина о «начальных стадиях полезных особенностей строения» и дискуссию о том, что толку в половине глаза. Теоретики нейронных сетей Джеффри Хинтон и Стивен Наулан придумали циничный пример. Представьте животное, которым управляет нейронная сеть всего с двадцатью связями, и каждая из них либо возбуждающая (включена), либо нейтральная (выключена). Но эта сеть совершенно бесполезна, пока не заданы правильно значения всех двадцати связей. Ни для чего не пригодна будет не только половина сети, но даже 95 % сети. В популяции животных, у которых связи нейронов определяются самопроизвольными мутациями, более приспособленный мутант с правильно заданными связями будет появляться всего в одном случае на каждый миллион (220) генетически отдельных друг от друга организмов. Что еще хуже, выгода сразу же оказывается утрачена, если животное начинает размножаться половым путем, потому что в этом случае, едва сумев найти волшебную комбинацию нужных весов связей, оно половину из них теряет. В ходе симуляций по такому сценарию не смогла эволюционировать ни одна сеть.

Теперь рассмотрим популяцию животных, у которых нейронные связи могут быть трех типов: врожденные возбуждающие, врожденные тормозящие или задаваемые как возбуждающие или тормозящие в ходе обучения. Мутации определяют, какой из этих трех вариантов (возбуждающая, тормозящая, формируемая в процессе обучения) будет та или иная связь при рождении животного. У среднего животного в таких симуляциях около половины связей являются формируемыми в процессе обучения, остальные связи – либо возбуждающие, либо тормозящие. Обучение работает следующим образом. Каждое животное в начале жизни пытается задавать значения формируемых в процессе обучения связей наугад, пока не найдет волшебную комбинацию. В реальной жизни это может быть определение того, как поймать добычу или расколоть орех; что бы это ни было, животное чувствует, что на этот раз ему повезло, и сохраняет данные настройки, больше не прибегая к методу проб и ошибок. С этих пор у него будет более высокий коэффициент воспроизводства. И чем раньше животное приобретет нужные настройки, тем дольше оно будет иметь этот более высокий коэффициент размножения.

Перейти на страницу:

Похожие книги

12 недель в году
12 недель в году

Многие из нас четко знают, чего хотят. Это отражается в наших планах – как личных, так и планах компаний. Проблема чаще всего заключается не в планировании, а в исполнении запланированного. Для уменьшения разрыва между тем, что мы хотели бы делать, и тем, что мы делаем, авторы предлагают свою концепцию «года, состоящего из 12 недель».Люди и компании мыслят в рамках календарного года. Новый год – важная психологическая отметка, от которой мы привыкли отталкиваться, ставя себе новые цели. Но 12 месяцев – не самый эффективный горизонт планирования: нам кажется, что впереди много времени, и в результате мы откладываем действия на потом. Сохранить мотивацию и действовать решительнее можно, мысля в рамках 12-недельного цикла планирования. Эта система проверена спортсменами мирового уровня и многими компаниями. Она поможет тем, кто хочет быть эффективным во всем, что делает.На русском языке публикуется впервые.

Брайан Моран , Майкл Леннингтон

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература
1991. Хроника войны в Персидском заливе
1991. Хроника войны в Персидском заливе

Книга американского военного историка Ричарда С. Лаури посвящена операции «Буря в пустыне», которую международная военная коалиция блестяще провела против войск Саддама Хусейна в январе – феврале 1991 г. Этот конфликт стал первой большой войной современности, а ее планирование и проведение по сей день является своего рода эталоном масштабных боевых действий эпохи профессиональных западных армий и новейших военных технологий. Опираясь на многочисленные источники, включая рассказы участников событий, автор подробно и вместе с тем живо описывает боевые действия сторон, причем особое внимание он уделяет наземной фазе войны – наступлению коалиционных войск, приведшему к изгнанию иракских оккупантов из Кувейта и поражению армии Саддама Хусейна.Работа Лаури будет интересна не только специалистам, профессионально изучающим историю «Первой войны в Заливе», но и всем любителям, интересующимся вооруженными конфликтами нашего времени.

Ричард С. Лаури

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература / История / Прочая справочная литература / Военная документалистика / Прочая документальная литература
100 способов уложить ребенка спать
100 способов уложить ребенка спать

Благодаря этой книге французские мамы и папы блестяще справляются с проблемой, которая волнует родителей во всем мире, – как без труда уложить ребенка 0–4 лет спать. В книге содержатся 100 простых и действенных советов, как раз и навсегда забыть о вечерних капризах, нежелании засыпать, ночных побудках, неспокойном сне, детских кошмарах и многом другом. Всемирно известный психолог, одна из основоположников французской системы воспитания Анн Бакюс считает, что проблемы гораздо проще предотвратить, чем сражаться с ними потом. Достаточно лишь с младенчества прививать малышу нужные привычки и внимательно относиться к тому, как по мере роста меняется характер его сна.

Анн Бакюс

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература / Детская психология / Образование и наука