Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Но уже осенью 2017 года в Нью-Йоркском университете состоялись дебаты Маркуса с Лекуном⁵⁷³. В этих дебатах, организованных «Центром разума, мозга и сознания»⁵⁷⁴ (Center for Mind, Brain, and Consciousness) – междисциплинарной программой Нью-Йоркского университета, соединяющей в себе психологию, лингвистику, нейробиологию, информатику и многое другое, – противопоставлялись природа и воспитание, нативизм и эмпиризм, «врожденная машинерия» и «машинное обучение». Маркус, выступавший первым, утверждал⁵⁷⁵, что глубокое обучение не способно достичь существенно больших результатов, чем решение простых задач на восприятие, такие как распознавание объектов на изображениях или узнавание произносимых слов. «Если нейронные сети и научили нас чему-то⁵⁷⁶, так это тому, что чистый эмпиризм имеет свои пределы», – сказал он. На долгом пути к искусственному интеллекту, сказал он, глубокое обучение позволило сделать лишь несколько крошечных шагов⁵⁷⁷. Помимо способности распознавать и генерировать изображения и звуки (как, например, это делают генеративно-состязательные сети), его самым большим достижением было освоение игры го, а ведь это всего лишь игра, замкнутая вселенная с тщательно определенным набором правил. Реальный же мир бесконечно сложнее. Система, обученная играть в го, заявил Маркус, бесполезна в любой другой ситуации. Ее нельзя назвать умной, потому что она неспособна адаптироваться к новым ситуациям. И она определенно неспособна справиться с одним из ключевых продуктов человеческого интеллекта: речью. «Чисто статистическая обработка информации⁵⁷⁸ «снизу вверх» не позволила нам сколько-нибудь далеко продвинуться по важному набору проблем – речь, рассуждения, планирование и здравый смысл – даже после шестидесяти лет работы с нейронными сетями, даже когда значительно улучшилась ситуация со скоростью вычислений, доступными объемами памяти и качеством исходных данных», – сказал он, обращаясь к аудитории.

Проблема в том, объяснил он, что нейронные сети обучаются не так, как человеческий мозг⁵⁷⁹. Даже для выполнения задач, которые не под силу нейронным сетям⁵⁸⁰, человеческому мозгу не требуются такие огромные объемы данных, как глубокому обучению. Детям, в том числе новорожденным⁵⁸¹, для обучения нужны совсем небольшие объемы информации, и иногда им достаточно одного-двух хороших примеров. Даже дети, выросшие в семьях⁵⁸², где родители не проявляют интереса к развитию и образованию своих чад, осваивают нюансы разговорной речи, просто прислушиваясь к тому, что происходит вокруг них. А вот нейронная сеть нуждается не просто в тысячах примеров. Нужно, чтобы каждый учебный пример был кем-то тщательно размечен. Это показывает, что искусственный интеллект неосуществим без того, что нативисты называют «врожденной машинерией»⁵⁸³: без того огромного количества знаний, которые, как они считают, изначально заложены в человеческий мозг. «Обучение возможно только потому, что наши предки разработали механизмы⁵⁸⁴ для обозначения таких вещей, как пространство, время и устойчивые объекты, – сказал Маркус. – Мой прогноз – и это только прогноз, доказать я этого не могу – заключается в том, что ИИ сможет работать намного лучше, когда мы научимся внедрять в него аналогичную информацию». Другими словами, он считает, что есть много вещей, которые ИИ никогда не сможет освоить самостоятельно. И эти вещи должны быть вручную запрограммированы инженерами.

У Маркуса, как убежденного нативиста, в этих дебатах был свой идеологический интерес. Но был также и экономический интерес, поскольку он работал над созданием нового стартапа, основанного на идее врожденной машинерии. Дебаты с Яном Лекуном в Нью-Йоркском университете стали началом скоординированной кампании, призванной показать мировому сообществу разработчиков ИИ, всей высокотехнологичной индустрии и широкой общественности, что возможности глубокого обучения гораздо более ограничены, чем это могло кому-то казаться. В первые месяцы 2018 года он опубликовал, как он выразился, трилогию статей⁵⁸⁵, критикующих глубокое обучение вообще и подвиги AlphaGo в частности. Затем он перенес свою критику в научно-популярную прессу, и одна из статей удостоилась анонса на обложке журнала Wired. Все это в конечном итоге привело к написанию книги⁵⁸⁶, которую он назвал «Перезагрузка ИИ» (Rebooting AI), и созданию нового стартапа, призванного закрыть брешь, которую он видел в глобальных усилиях по разработке ИИ.