YouTube. Как самый популярный видеохостинг завоевал мир?

С успехом канала пришла волна подражателей. Некоторые заимствовали сюжетные мотивы у пранкеров YouTube (еще один горячий тренд) и устраивали экстремальные игровые соревнования в выполнении самых абсурдных трюков. Когда к супергероям присоединились пранкеры, этот жанр стал еще более диким. Эльза спустила Человека-паука в унитаз; «злой Санта» похитил Эльзу; Человек-паук вколол Эльзе странные жидкости. Эльза часто рожала. «Уже почти ожидаешь, что в следующих сценариях будет порно», — написал один блогер об этой тенденции[227] в феврале 2017 года. За пару месяцев до этого Дэвид Сиверс из Maker опубликовал отчет для юристов студии Disney, создавшей Эльзу. Все рекламные ролики Disney на YouTube, не включенные в хиты вроде Пьюдипая, набирали около миллиарда просмотров в месяц, что было солидной суммой. А любительские видеоролики с участием Эльзы за тот же месяц набирали 13 миллиардов просмотров.

В том году Гарри и Сона Джхо, создатели «Клуба матушки Гусыни», заметили, что одним из самых популярных терминов на YouTube стал «плохой ребенок». В эту категорию входили безобидные анимационные клипы о непокорных малышах и отвратительные ролики, показывающие в прямом эфире, как дети переедают и их рвет. Toy Freaks специализировались на втором типе сюжетов: например, Чисм разыгрывал двух своих дочерей школьного возраста, одетых как младенцы. В каком-то кадре одна из девочек вырвала себе зуб, после чего кричала и плевалась кровью. (Там же Чисм успокаивал кричащую дочку, но это было уже не заметно зрителям, которые видели только кровавые кадры.) Toy Freaks продолжали подниматься в чартах YouTube.

В марте канал BBC опубликовал разоблачительную историю[228]. Потрясенные родители обнаружили, что их малыши смотрят жестокие, кошмарные клипы в приложении YouTube Kids, рекламируемом как безопасное место. Поддельную свинку Пеппу пытают у дантиста. Микки-Маус устраивает розыгрыши с фекалиями. Минни-Маус расчленена и окровавлена. Машинам YouTube эти фрагменты представлялись детскими мультфильмами.

Нейронные сети — сверхчеловеческий искусственный интеллект, подключенный к рекомендательным алгоритмам YouTube — часто описывались как системы «черного ящика», поскольку люди не могли понять способы их работы. Поток тревожных детских материалов напомнил многим сотрудникам YouTube, что у них нет пароля к этому ящику. «Он зажил собственной жизнью, и никто не брался за него отвечать», — вспоминал один из сотрудников компании.

Вскоре стало казаться, что о нарастающей катастрофе знают все на свете, кроме самого YouTube.

* * *

«Злоумышленники». Этот термин Google использовала для обозначения спамеров, хакеров и лиц, вмешивающихся в выборы, — тех, кто сделал Интернет небезопасным. На YouTube злоумышленниками были люди, которые делали кровавые мультфильмы с Минни-Маус, пользовались случайно оставленными лазейками, злоупотребляли щедрыми данными, размещали «проблемный контент».

Летом 2017 года команда YouTube начала внимательно просматривать детские видеоролики, считающиеся проблемными. Компания еще не оправилась от рекламного бойкота, но обновила коммерческие рекомендации и создала модели, позволяющие лучше идентифицировать материалы террористов и, если будет на то воля богов искусственного интеллекта, навсегда похоронить эту проблему. Одному новому сотруднику, который пришел в команду той весной, сказали, что вскоре эта работа «может даже стать ненужной».

Но стоило заглянуть под капот, как оптимизм рассеялся.

Toy Freaks были не одиноки. Успех Чисма вдохновил десятки подражателей («репликации контента», как это называла компания). Некоторые устраивали «вброс ключевых слов» (например, «плохой ребенок») и использовали в своих целях алгоритмические волны — это старая тактика спамеров, которые подписывали видео множеством несвязанных тегов, предназначенных только для машинных глаз. Некоторые сотрудники YouTube испытывали тошнотворный дискомфорт, просматривая видео в стиле «плохой ребенок» с участием несовершеннолетних. В нескольких роликах появилась тенденция брить лица маленьких детей перед камерой в качестве наказания. (Настоящее бритье или поддельное? Непонятно.) У других дети наедались и показывали раздутые животы — сюжетец из порно. У компании уже давно были правила, запрещающие эксплуатацию детей и сексуальные фетиши; такие видеоролики пока не нарушали правил, но приближались к этому. В течение многих лет YouTube был уверен, что именно родители направляют детей на YouTube Kids, но относительно скудный трафик приложения показал, что это не работает. Миллионы детей, лишенных родительского надзора, самостоятельно приходили на YouTube.com.

Сотрудники придумали новую категорию («пограничный фетиш») и написали для модераторов и машин правила по обнаружению видео, которые в нее попадали. Еще один ярлык был создан для видеоматериалов, в которых смешивались детские персонажи и «взрослые темы» — причудливые мучения свинки Пеппы и легионы имитаторов Человека-паука и Эльзы.