Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Проезжая по шоссе 101 – восьмиполосной магистрали, рассекающей Кремниевую долину через самое сердце, – невозможно не обратить внимание на «Ангар 1», одно из самых больших отдельно стоящих зданий на Земле. Построенный в 1930-е годы для размещения дирижаблей ВМС США, этот гигантский стальной ангар высотой около шестидесяти метров занимает более трех гектаров земли и вмещает шесть футбольных полей. Он находится на территории военного аэродрома Моффет, расположенного между городами Маунтин-Вью и Саннивейл. Этот аэродром, построенный почти сто лет назад, принадлежит НАСА, и сейчас там располагается научно-исследовательский центр космического агентства, но большую часть бывшей авиабазы арендует Google. Компания использует старые стальные ангары для испытаний воздушных шаров, которые могли бы в один прекрасный день обеспечить доступ в интернет с неба, а взлетно-посадочные полосы вот уже много лет ее руководители, включая Ларри Пейджа, Сергея Брина и Эрика Шмидта, используют для полетов на своих частных самолетах.

Новая штаб-квартира подразделения Google Cloud расположилась на южной окраине аэродрома Моффет: три здания окружают поросший травой двор, заставленный пластиковыми столами и стульями, где «гуглеры» каждый день обедают. В одном из зданий разместилась «лаборатория передовых решений», где компания разрабатывает индивидуальные технологии под заказ для своих крупнейших клиентов. В этом самом здании 17 и 18 октября представители компании встретились с заместителем министра обороны Патриком Шанаханом и его помощниками, чтобы обсудить роль Google в проекте Maven. Как и многие другие высокопоставленные чины министерства обороны, Шанахан рассматривал этот проект лишь как первый шаг к чему-то большему. В какой-то момент он сказал: «Отныне в нашем департаменте никакие перспективные инновации не принимаются, если в них не предусмотрена возможность использования искусственного интеллекта». По крайней мере, «гуглерам», которые добились этого контракта, казалось, что их компания и дальше будет важнейшей частью этого долгосрочного плана.

Но сначала Google пришлось создать программное обеспечение для так называемой системы «воздушного зазора». Речь идет о компьютере (или сети компьютеров), который в некотором смысле окружен воздушной прослойкой, то есть не подключен ни к какой другой сети. Ввести данные в такую систему можно лишь через какое-то физическое устройство, например с помощью флешки. Предполагалось, что военные будут загружать в эту систему съемки с беспилотников, а Google нужно придумать способ получать доступ к этим данным, чтобы подавать их в нейронную сеть. Это означало, что специалисты Google не только не смогут контролировать систему, но даже не будут толком знать, как она используется. В ноябре команде из девяти инженеров Google было поручено создать программное обеспечение для этой системы, но они так и не сделали этого. Они быстро поняли, что к чему, и отказались участвовать.

После Нового года, когда слухи о проекте начали распространяться по всей компании, стали высказываться опасения, что Google помогает Пентагону наносить удары беспилотниками. В феврале те самые девять инженеров рассказали свою историю во внутренней соцсети Google+. Многие из коллег поддержали их позицию и окрестили этих инженеров «Бандой девяти». В последний день месяца Мередит Уиттакер, менеджер по продуктам в группе облачных технологий – которая ранее основала при Нью-Йоркском университете Институт AI Now («ИИ сейчас»), ставший одной из самых известных организаций, занимающихся вопросами этики ИИ, – опубликовала петицию. Она потребовала, чтобы Пичай расторг контракт с военными по проекту Maven. «Компания Google, – говорилось в петиции, – не должна заниматься военными делами».

На следующий день руководители Google выступили с обращением к сотрудникам, в котором заявили, что сумма контракта по проекту Maven составляет всего лишь 9 миллионов долларов и что Google создает технологии исключительно для «ненаступательных» целей. Но волнения не утихали. В первый день петицию Уиттакер подписали пятьсот человек⁵¹¹. На следующий день – еще тысяча. В первых числах апреля, когда число подписантов превысило три тысячи, газета New York Times рассказала о происходящем⁵¹², а несколько дней спустя руководитель группы облачных технологий пригласил Уиттакер присоединиться к обсуждению контракта Maven за круглым столом на очередном пятничном собрании. Она и еще два «гуглера» – оба сторонники проекта Maven – обсуждали эту тему трижды, чтобы их разговор можно было транслировать в прямом эфире в трех разных часовых поясах по всему земному шару.