Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Для нас, людей, типично исходить в своей самооценке из идеи человеческой исключительности, из представления о том, что мы — самые умные существа на планете и оттого уникальные и превосходные. Появление искусственного интеллекта вынудит нас отказаться от этой мысли и стать поскромнее. Но, наверное, нам придется это сделать в любом случае: в конце концов, высокомерная уверенность в своем превосходстве над другими (личностями, этническими группами, биологическими видами) уже приводила к ужасным проблемам в прошлом, и пришла пора от нее отказаться. В самом деле, идея человеческой исключительности не только становилась причиной бед, но и кажется совершенно ненужной для процветания: если нам суждено открыть мирную внеземную цивилизацию, далеко превзошедшую нас в науках, искусствах и во всем остальном, что для нас важно, это, наверное, не сможет помешать людям продолжать находить в своих жизнях смысл и ставить перед собой цели. Мы можем сохранять верность своим семьям, друзьям и более многочисленным сообществам и продолжать заниматься всеми теми делами, которыми считали нужным и важным заниматься и раньше, не потеряв ничего, кроме своей заносчивости.

Планируя наше будущее, давайте подумаем о смысле не только для своих жизней, но и для самой Вселенной. В этом отношении два моих любимых физика, Стивен Вайнберг и Фримен Дайсон, представляют два диаметрально противоположных взгляда. Стало знаменитым высказывание Вайнберга, удостоенного Нобелевской премии за важнейший вклад в создание стандартной модели элементарных частиц: «Чем лучше мы понимаем Вселенную, тем бессмысленнее она кажется»^{130}. Дайсон, со своей стороны, гораздо оптимистичнее, как мы могли убедиться в главе 6: хотя он тоже считает, что Вселенная была бессмысленной, она стала все больше и больше наполняться смыслом с возникновением жизни, но вершина осмысленности все еще впереди — когда жизнь сможет распространиться в космосе. Он закончил свою программную статью 1979 года так: «Какая из Вселенных, моя или Вайнберга, ближе к истине? Когда-нибудь, и не так уж не скоро, мы узнаем»^{131}. Если когда-нибудь наша Вселенная навсегда вернется к своему бессознательному состоянию из-за того, что мы истребим жизнь на Земле, или из-за того, что мы позволим бессознательным зомби с искусственным интеллектом захватить нашу Вселенную, то Вайнберг возьмет верх окончательно и бесповоротно.

С этой точки зрения, хотя наше внимание в этой книге по большей части было обращено к будущему разума, будущее сознания куда как более важно, потому что это то, что создает смыслы. Когда речь заходит об этом различии, философы любят переходить на латынь, противопоставляя sapientia (способность разумно мыслить) и sentientia (способность к субъективному восприятию квалиа). Мы, люди, выстроили свою идентичность на идее принадлежности к виду Homo sapiens — самых разумных существ в природе. Сейчас мы готовимся к встрече с более разумными машинами и потому должны быть скромнее. Я предлагаю людям пройти ребрендинг и стать Homo sentiens.

Подведение итогов

• Нет общепринятого и не вызывающего споров определения сознания. Я использую достаточно широкое и не антропоцентрическое: сознание = субъективные переживания.

• Сознательны ли системы искусственного интеллекта в этом смысле — это принципиально важно для ответа на самые острые вопросы, возникающие в связи с развитием искусственного интеллекта вообще. Могут ли такие системы страдать? Могут ли они иметь права? Не окажется ли заливка человеческого разума в компьютерную память самоубийством? Не станет ли космос будущего, кишащий системами искусственного интеллекта, зомби-апокалипсисом?

• Проблема понимания разума не должна смешиваться с тремя различными проблемами понимания сознания: «довольно трудной проблемой» определения, какая физическая система обладает сознанием, «еще более трудной проблемой» предсказания квалиа и «по-настоящему трудной проблемой» — почему что-то вообще оказывается сознательным.

• «Довольно трудная проблема» научна, так как теория, предсказывающая, какие из процессов, протекающих у вас в мозгу, вами осознаются, может быть проверена экспериментально и фальсифицирована, притом что пока остается неясным, как наука может разрешить две более сложные проблемы.

• Нейробиологические эксперименты показывают, что многие действия и связанные с ними области мозга не осознаются, а бóльшая часть наших осознанных переживаний складывается из апостериорного суммирования значительного количества бессознательной информации.

• Для того чтобы предсказывать появление сознания у машин, требуется теория. Сознание, по-видимому, связано не с какой-то особой разновидностью полей или частиц, а с особой разновидностью информационных процессов, в большой степени автономных и интегральных, так что вся система в целом автономна, но каждая ее часть в отдельности — нет.