НАШЕ ВНИМАНИЕ ОЧЕНЬ ИЗБИРАТЕЛЬНО. БУДУЧИ УВЛЕЧЕННЫМИ ЗАДАЧЕЙ, МЫ ЛЕГКО ПРОПУСКАЕМ ТО, ЧТО НАХОДИТСЯ ПРЯМО ПЕРЕД НАМИ.
В 2016 году «Майкрософт» запустил чат-бота по имени Тая. Это виртуальный собеседник, который обучался онлайн на основании записей в Твиттере и вел «свободный и шутливый разговор»37. Через шестнадцать часов Таю пришлось выключить: она начала публиковать в твитах сообщения о том, что «люди – суперкрутые существа», и быстро превратилась в «дуру, сексистку и расистку» из-за многочисленных, полных предубеждений твитов, которые Тая использовала в качестве входной информации. Хотя некоторые ответы были просто имитацией, это стало доказательством того, что общие правила извлекаются из общих тем, и в результате получаются утверждения, которые никто никогда специально не высказывал, например «феминизм – это культ». Этому Тай «научилась», складывая вместе то, что она знала о культах, и все, что прочитала в твитах о феминизме.
Этот эксперимент был основан на системе под названием «глубокое обучение»38. Компьютеры запрограммированы так, чтобы извлекать закономерности из информации и «самообучаться» с целью получения более точного представления об окружающем мире. Это не просто программа для выполнения определенного задания. Принцип глубокого обучения лежит сегодня в основе любых компьютерных программ искусственного интеллекта, и его можно сравнить с современными моделями процессов обучения мозга. Но, как стало ясно из истории с бедной Тай, если такая программа получает информацию из сексистского, расистского или просто грубого мира, то предварительные прогнозы, определяющие оптимальное для нее поведение, будут точно такими же.
Пытаясь понять половые различия и роль взаимодействия мозга с окружающим миром, нейробиологи обнаружили, что одна из проблем связана с глубоким обучением. Если поступающие данные изначально носят пристрастный характер, то система выучит соответствующее правило. Если система пытается создать правило, связанное с изображением кухни, то она свяжет это изображение с женщиной, потому что именно такую ассоциацию найдет в окружающем мире39. Когда программу просят закончить предложение «Мужчина – программист, а женщина…», она ответит: «домохозяйка». Подобным образом, в ответ на вопрос о бизнес-лидерах или руководителях высшего звена мы получим списки и изображения белых мужчин. В результате недавнего исследования обнаружили, что простой ввод речевых данных в систему, которая учится распознавать изображения, не только приведет к существенным гендерным предубеждениям, но даже многократно усилит их40. Так, система, которая активно учится распознавать изображения «приготовления пищи», может, основываясь на обнаруженном в сети дисбалансе, считать это женской прерогативой в 68 % случаях, хотя на самом деле только 33 % женщин готовят чаще мужчин.
Ученые, которые «обучали» эту модель, искали другие примеры речи в интернете, чтобы ввести в программу. Они обнаружили, что 45 % слов и 37 % объектов несут в себе гендерные предубеждения в пропорции два к одному. Иными словами, в два раза вероятнее, что конкретное слово или объект будут связаны с одним гендером, чем с другим. Далее ученые показали, как ограничить модель, чтобы точнее указать на эти предубеждения. Они никак не прокомментировали ситуацию, хотя и назвали свою статью «Мужчины тоже любят ходить по магазинам».
Таким образом, в нашем представлении о мозге мы все больше учитываем тот факт, что способ общения мозга с окружающим миром очень сильно зависит от той информации, которую он извлекает, и тех правил, которые он создает для нас на основании полученной информации. Чтобы выдавать предварительные прогнозы, человеческий мозг действует как система «с глубоким обучением». Если же извлеченная информация носит оттенок предубеждения, возможно на основании каких-то стереотипов, то нетрудно догадаться, каким будет результат. Это все равно что слишком полагаться на неверно настроенный навигатор: можно оказаться на совершенно неподходящей дороге или пуститься в ненужный объезд (или вообще вернуться домой).
Важнее то, как мозг определяет способ нашей реакции на окружающий мир и как этот мир реагирует на нас. Мир сложнее, чем мы привыкли о нем думать. Различия мозга (и последствия этих различий) будут в равной степени определяться нашим жизненным опытом, генетическим кодом и гормональным маринадом. Поэтому для понимания этих различий (и их последствий) необходимо тщательно разобраться в том, что происходит как вне нашей головы, так и внутри нее.
ШАБЛОНЫ ПОВЕДЕНИЯ ПОМОГАЮТ ЭКОНОМИТЬ ЭНЕРГИЮ МОЗГА, НО ЧАСТО ИЗ-ЗА НИХ МЫ СЛИШКОМ БЫСТРО ПРИНИМАЕМ РЕШЕНИЯ – И ОШИБАЕМСЯ.