В 2017 году у YouTube был ужасный День благодарения. Несколько сотрудников провели отпуск, склонившись над ноутбуками; они составляли отчеты о состоянии дел для Воджицки и следили за тем, чтобы радикальные изменения, запущенные в действие, действительно сработали. Как всегда, YouTube должен был мониторить загрузки, чтобы люди не публиковали повторно видеоматериалы, которые компания только что удалила. Это был «Красный код». Специально пригласили инженеров, чтобы они как можно быстрее разобрались с машинными фильтрами. «Это было какое-то умопомрачение, — вспоминал исследователь Google Джек Поулсон, ответственный за реагирование. — Скажем прямо: люди поняли, что продвижение получит тот, кто будет хорошо себя вести». Чтобы успокоить встревоженных сотрудников, на праздники в офис YouTube в Сан-Бруно принесли щенков. Ни одна из тех проблем, с которыми YouTube сталкивался на протяжении многих лет, так быстро не меняла подход к модерации. «Я чувствовал себя так, будто начал работать в другой компании», — сказал один из бывших сотрудников. «Это затронуло меня очень глубоко, — вспоминал Нил Мохан, отец троих детей, который руководил этой работой. — Откровенно говоря, все эмоции, страсти и стресс были вызваны прежде всего тем фактом, что речь шла о защите детей».
YouTube дал ряд публичных обещаний. Компания была готова удалить рекламу из неуместных роликов с семейными развлечениями, заблокировать непристойные комментарии о детях, проконсультироваться с большим количеством экспертов, выпустить руководство для создателей «контента, подходящего для семьи», и обеспечить «ускоренное применение технологий». В декабре Воджицки в своем блоге отметила то, как изобилие видеоматериалов на YouTube «способствовало просвещению» ее детей. «Но, помимо этого, я вблизи убедилась, что у открытости, свойственной YouTube, может быть и другая, более тревожная сторона, — написала она. — Я видела, как некоторые злоумышленники используют нашу открытость, чтобы вводить людей в заблуждение, манипулировать ими, устраивать преследования и даже причинять вред». Она пообещала, что число сотрудников отдела модерации Google, проверяющих видеоматериалы на наличие злоумышленников, к следующему году превысит десять тысяч, что является впечатляющим результатом.
Воджицки не упомянула, что большинство из них не будут работать непосредственно на Google.
Глава 28. Злоумышленники
Якоб Хёг Сёберг прибыл в дублинский комплекс и увидел на входе две вывески: одна для контрактных работников Facebook* и еще одна для Google. Пластиковая карта, которую ему вручили на стойке регистрации, позволила войти через дверь для Google. Сёберг был подтянутым рыжеволосым обладателем богатого резюме — диплом юриста, полученный в родной Дании, такой же диплом из Ирландии, лето учебы в Лондонской школе экономики. Но похоже, что специалисты по кадрам считали самым важным его качеством знание датского языка. Проводившая собеседование фирма Accenture, о которой он никогда раньше не слышал, спросила, как он относится к работе с «конфиденциальным контентом». Сёберг ненадолго задумался. «Я такой же сильный, как и другие люди», — ответил он. Ему дали довольно мало информации[236] об этой работе.
В сентябре 2017 года к нему присоединились еще пятеро: русский, трое испанцев и ирландка, говорившая по-французски. Они сидели в стерильном классе, изучая законы о свободе слова и выражения мнений; эти предметы нравились Сёбергу. Затем инструктор переместился к большому экрану в пятнадцати футах от стола Сёберга. На экране начали появляться видеоролики YouTube.
«Это жестко, — предупредил инструктор.
Сёберг почувствовал, как его сердце забилось быстрее. Он уже знал: выражение «ультражестко» означало, что в кадре будут горящие или искалеченные человеческие тела. Перестрелки. Убийства. Мрачные вещи. Когда на экране кричащего мужчину несколько раз ударили ножом, Сёбергу пришлось броситься в ванную и плеснуть водой в лицо, чтобы не упасть в обморок.