YouTube. Как самый популярный видеохостинг завоевал мир?

Тала Бардан, специалист по насильственному экстремизму на YouTube, проснулась рано и увидела новости о стрельбе. Женщина расплакалась. Потом вытерла слезы, открыла компьютер и начала просматривать видеозапись, сделанную террористом. Еще тяжелее было наблюдать за очевидцами — на некоторых кадрах верующие и соседи плакали, не веря своим глазам. Бардан помогла написать руководство для модераторов: «Удаляйте любые повторные загрузки или клипы, восхваляющие это насилие, но будьте осторожны, чтобы не трогать новостные репортажи». Она поехала на такси в офис, где работала без перерыва; все выходные она провела дома, просматривая кадры насилия, а муж приносил к ее столу тарелки с едой. YouTube переполнился комментариями к ролику из Крайстчёрча; разжигатели ненависти и коварные тролли склеили отснятый материал таким образом, чтобы перехитрить онлайн-детекторы. Бардан и ее коллеги в Европе и Азии отчаянно пытались тушить огонь, пока Калифорния спала.

О’Коннор проснулась в пятницу утром и узнала, что алгоритм не работает. Сначала она подумала, что видеохостингу не хватает модераторов. Еще в начале ночи она встревоженно писала: «У нас слишком мало рецензентов». Но к утру оказалось, что даже это предположение ошибочно. На YouTube каждую секунду стала появляться новая копия удаленного видео со стрельбой. Позже один из руководителей сказал, что тревожная скорость повторных загрузок заставила некоторых внутри компании заподозрить, что в этом замешан какой-то государственный деятель. Мохан, босс О’Коннор, описывал это[276] как «трагедию, которая была буквально создана для того, чтобы стать вирусной».

Вирусность клипов множество раз становилась подарком для YouTube на протяжении всей его истории. Сервис был задуман как бездонное онлайн-хранилище — видео, которые впервые транслировались на других площадках (в том числе кадры из Крайстчёрча), могли легко перескочить на YouTube и моментально набрать огромные просмотры. Желая оставаться актуальным, YouTube изменил свои алгоритмы: отныне они продвигали больше видеоматериалов из последних новостей, чтобы люди, которые раньше после массовой стрельбы включали телевизор, теперь открывали YouTube. Люди так и делали. Даже странности Ютубленда, такие как призыв «подписываться на Пьюдипая», теперь стали главными новостными событиями. В отличие от социальных сетей с их неуклюжими функциями поиска, YouTube предлагал удивительно простые способы найти что угодно. Все те механизмы, которые обычно обеспечивали видеохостингу процветание, все инструменты, созданные без учета того, какие непреднамеренные катастрофы они могут вызвать, слились в сплошной поток «топлива для ночных кошмаров», который компания не могла отключить.

По дороге на работу О’Коннор созвонилась с коллегами, и было принято решение. YouTube будет удалять любые кадры, показывающие стрельбу в Крайстчёрче, а не только точные повторные загрузки. Таким образом зрители вообще лишатся возможности находить материалы об этой трагедии, поскольку видеохостинг впервые удалит из поиска целую категорию. Компания отозвала модераторов, которые не могли действовать с достаточной скоростью. YouTube включил фильтры и передал управление машинам.

Часть IV

Глава 32. «Румба»

В мае 2019 года в Сан-Франциско, недалеко от автострады, по которой многие гуглеры ездили на работу, появился билборд. Надпись на нем гласила: «Расформируем технологических гигантов».

Эту рекламу оплатила кандидат в президенты Элизабет Уоррен, но ее умонастроение распространилось за границы политики. Летом трамповское Министерство юстиции возбудило грандиозное дело, обвинив Google в монополизации рынка. Сенаторы посвятили дискуссию тем опасностям, которые представляет собой неконтролируемый искусственный интеллект в социальных сетях. «Компании позволяют алгоритмам жить своей жизнью», — заявил один законодатель. Республиканцы и демократы, обычно язвительные ко всему на свете, согласились с тем, что компании, контролирующие Интернет, такие как YouTube, чересчур велики и влиятельны.