Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

В Лондоне петицию Уиттакер подписали более половины сотрудников DeepMind, причем особенно заметную роль в протесте сыграл Мустафа Сулейман. Контракт Google по проекту Maven шел вразрез с его фундаментальными убеждениями. Он рассматривал протесты внутри Google как свидетельство того, что европейские ценности постепенно распространяются и на США, заставляя менять курс даже крупнейшие технологические компании. Ранее на волне возмущений в Европе был принят «Общий регламент по защите персональных данных» (GDPR), закон, принуждающий эти компании уважать конфиденциальность личной информации. Теперь же буря внутри Google заставила компанию пересмотреть свой подход к сотрудничеству с военными. На фоне обострения ситуации Сулейман призвал генерального директора Пичая и главного юрисконсульта Кента Уокера доработать этические принципы, которые официально закрепили бы, чем Google может заниматься, а чем нет.

* * *

В середине мая группа независимых ученых обратилась с открытым письмом⁵¹³ к Ларри Пейджу, Сундару Пичаю, Фэй-Фэй Ли и руководству облачного бизнеса Google. «Как ученые, преподаватели и исследователи⁵¹⁴, которые изучают, преподают и развивают информационные технологии, мы выражаем свою солидарность с более чем 3100 сотрудниками Google, к которым присоединились другие работники IT-отрасли, выступающие против участия Google в проекте Maven, – говорится в письме. – Мы всем сердцем поддерживаем их требование о том, чтобы Google расторгла свой контракт с министерством обороны и чтобы Google и ее материнская компания Alphabet обязались не разрабатывать военные технологии и не использовать в военных целях персональные данные, которые они собирают». Это письмо подписали более тысячи ученых⁵¹⁵, в том числе Йошуа Бенжио и несколько коллег Ли по Стэнфорду.

Ли оказалась между молотом и наковальней: руководители компании, в которой она работала, хотели одного, а коллеги из научных кругов требовали другого. Затруднительное положение, в которое она попала, свидетельствовало о постепенном усилении противоречий между этими двумя мирами, миром бизнеса и миром науки. Технология, над которой ученые трудились несколько десятилетий, теперь стала основой бизнеса для крупнейших и самых могущественных компаний мира. А это означало, что одной из важнейших движущих сил в ее развитии становилась жажда прибыли. Многие так сильно переживали по этому поводу, что даже стали упрекать Хинтона за то, что он недостаточно громко и внятно озвучивал свою позицию. «Я перестал его уважать, – заявил Джек Поулсон, бывший профессор Стэнфордского университета, работавший в отделении Google в Торонто, несколькими этажами ниже Хинтона. – Он так и не высказался». Но негласно Хинтон лично убеждал Сергея Брина расторгнуть контракт.

После публикации открытого письма и угроз в свой адрес в китайских социальных сетях Фэй-Фэй Ли стала говорить, что боится за свою безопасность, настаивая на том, что участие компании в проекте Maven не ее вина. «Я не участвовала в принятии решений и не имею отношения ни к подаче заявки на участие, ни к заключению контракта», – заявила она впоследствии, а в отношении своего письма об Илоне Маске и угрозе Третьей мировой войны сказала только, что «мое предостережение, адресованное сотрудникам отдела продаж, было правильным». 30 мая на первой полосе New York Times вышла статья⁵¹⁶, посвященная дебатам, которые побудили ее написать то самое письмо, и эта публикация лишь подогрела протесты внутри компании. Через несколько дней руководство Google объявило сотрудникам, что не станет продлевать контракт с военными.

История с Google была лишь одним из проявлений более масштабной кампании против военных контрактов. Сотрудники Clarifai также были недовольны своей работой над проектом Maven. Один инженер покинул проект сразу после визита трех офицеров в форме, еще несколько человек покинули компанию в последующие недели и месяцы. В Microsoft и Amazon сотрудники протестовали против контрактов с вооруженными силами и правоохранительными органами⁵¹⁷. Но там эти протесты были не столь эффективны. И даже в Google волна протестов постепенно спала. Компания рассталась с большинством тех, кто выступал против участия в проекте Maven, включая Мередит Уиттакер и Джека Поулсона. Фэй-Фэй Ли вернулась в Стэнфорд. Хотя Google решила не продлевать контракт, она продолжала продвигаться в том же направлении. Год спустя Кент Уокер выступил в Вашингтоне⁵¹⁸ на мероприятии с участием генерала Шанахана и заявил, что история с проектом Maven не отражает более широких целей компании. «Это решение касается отдельного контракта, – сказал он. – Оно не касается нашей готовности продолжать сотрудничество с министерством обороны, как и истории наших взаимоотношений».