The Worlds I See

Но история приняла другой оборот, когда на моего дедушку обрушился внезапный приступ болезни. Началось все загадочно, как это часто случалось в то время, и усугубилось их изоляцией. Они остались вдвоем в городе с такими ограниченными средствами, что адекватная медицинская помощь была практически невозможна. Мой отец был бессилен вмешаться, хотя симптомы деда - усталость, спутанность сознания и быстро пропадающий аппетит - становились все хуже и хуже.

В отсутствие должного ухода мой дед просто развалился на части, превратившись за считанные месяцы в инвалида. Мой отец мог лишь наблюдать за ним с постели, не в силах остановить его - центр его мира - от исчезновения на глазах. Когда смерть наконец наступила, она казалась бессмысленной и недостойной. Врач, прибывший слишком поздно, пытался объяснить, что крайнее недоедание усугубило состояние желудочно-кишечного тракта, в результате чего его организм не выдержал. Но объяснения мало что значили для мальчика, так внезапно оказавшегося в одиночестве. В этом не было никакого смысла.

Это был 1961 год. Моему отцу было четырнадцать лет.

Чудесным образом коллега моего дедушки вызвался вмешаться и стал законным опекуном моего отца в отсутствие живых родственников. Он устроил его в школу, обеспечил удовлетворение его основных потребностей и позаботился о том, чтобы он доучился до конца. Щедрость этого человека позволила моему отцу выжить в период, который в противном случае съел бы его заживо. Но он уже никогда не был прежним.

Когда умер мой дед, вместе с ним умерла и часть моего отца. Осталась лишь частица мальчика, единственное уцелевшее доказательство того, что мир, который он любил и потерял, когда-либо существовал. Поэтому он решил остаться таким, каким был. Даже став взрослым, получив высшее образование и став в итоге мужем и отцом, он продолжал жить жизнью того мальчика, каким он его помнил.

Однако кое-что все же прояснилось. За милыми улыбками, дурацкой игрой слов и вечным отказом от ответственности скрывалась тайная боль, не желающая заживать и кипящая по прошествии стольких лет. Она лежала в основе его единственного убеждения: капризный и жестокий мир, забравший его отца, никогда не заберет его самого. Он никогда не заберет мою мать. И никогда не заберет меня.

Тогда-то все и прояснилось. Мой отец не просто раскрывал историю моей семьи или частные причины, по которым он разделял желание моей матери сбежать. Это были слова человека, который отчаянно пытался как-то подготовить свою дочь к потере матери. Он вытаскивал на поверхность свое самое старое, глубокое горе, погребенное под десятилетиями новой жизни, чтобы мы могли вместе встретить новое горе. Он защищал меня. Столько лет я думала, что его подростковый возраст никогда не закончится, а на самом деле он закончился - слишком рано. Он всегда казался мне ребенком, застывшим во времени, но в тот момент я увидела нечто новое. Под всем этим билось отцовское сердце.

Приближался конец моего второго десятилетия работы в области ИИ, а также конец второго года работы в Google, и я никогда еще не чувствовал себя так плохо. Хаос в моей области охватывал все, включая меня. Но я также начал осознавать закономерность, которая, казалось, определяла мою жизнь. Как бы трудно ни было, что-то напоминало мне о том, что значит быть человеком посреди всего этого. Каждый раз я был благодарен.

 

Разговоры о профессиональной этике сложны практически в любой обстановке, но в один из дней осени 2018 года, когда я стоял в переполненном конференц-зале и пытался ответить на вопросы команды инженеров и менеджеров по продуктам, которые теперь подчинялись мне, это было особенно напряженно. После стольких потрясений - как в нашей отрасли, так и за ее пределами, от культуры до политики, - момент размышлений казался мне давно назревшим.

"Знаете, - начал я, делая длинные паузы, разделяющие мои слова, - я люблю физику почти столько, сколько себя помню. Но невозможно отделить красоту науки от чего-то вроде, скажем, Манхэттенского проекта. Это просто реальность. У ИИ есть свои козлы отпущения, будь то роботы-убийцы, повсеместная слежка или даже просто автоматизация всех восьми миллиардов людей, лишивших нас работы. Это страшные вещи, и их стоит опасаться. Но это крайности, и они, скорее всего, не произойдут завтра".

Я выдержал долгую паузу, обдумывая свои следующие слова.

"И вот тут, я полагаю, все становится по-настоящему сложным. Потому что в это время нужно учитывать еще очень многое. Много хорошего и много плохого, причем некоторые из них могут произойти уже завтра. Поэтому я надеюсь, что вы сможете оценить возможности, которые нам открываются. Мы играем роль в том, что будет дальше. Мы должны относиться к этому серьезно. Именно поэтому этические рамки так важны. Что-то, что поможет нам оценить каждый наш шаг, прежде чем мы его сделаем".

На мгновение в комнате воцарилась тишина.