Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Это явление было популяризировано несколькими годами ранее в выступлении на TED Элая Паризера, основателя прогрессивной правозащитной группы MoveOn.org. Концепция была проста: по мере того как интернет-компании все больше персонализировали контент, который они рекомендовали пользователям, эти люди получали более узкий взгляд на мир. В то время разворачивалась "арабская весна", и Паризер продемонстрировал идею "пузырей фильтров", рассказав о том, что произошло, когда он попросил друзей набрать в Google "Египет". Результаты одного из друзей были наполнены ссылками на информацию о продолжающемся восстании. Результаты второго друга не содержали информации о восстании, а содержали советы по путешествиям и фотографии пирамид. Выступление Пэризера в 2011 году положило начало дискуссии о том, может ли такая персонализация создать "эхо-камеры", в которых люди будут получать только ту информацию, которая соответствует их мировоззрению.

В 2015 году Facebook опубликовал в престижном журнале Science статью, в которой исследовал, не подвергают ли рекомендации его новостной ленты пользователей более пристрастному питанию, чем они могли бы увидеть самостоятельно. Вердикт, вынесенный на основе анализа новостных лент 10 миллионов пользователей, гласил: "Индивидуальный выбор в большей степени, чем алгоритмы, ограничивает доступ к контенту, меняющему отношение". В пресс-релизе Facebook назвал результаты исследования опровергающими опасения по поводу "пузырей фильтров". Критический обзор в журнале Wired поставил под сомнение методологию исследования, которое стало известно как "исследование Facebook "Это не наша вина"", но работа, тем не менее, собрала тысячи ссылок в будущих исследованиях.

Не меньшее беспокойство вызвал анализ, которым поделилась рабочая группа, относительно особого типа новостных публикаций в Facebook, особенно тех, которые обслуживают оголтелых партизан. Сайты с общими названиями типа 365USANews набирали огромный трафик в Facebook благодаря грамматически и фактически неверным заголовкам.

"Казалось, что безумные экстремистские сайты живут за счет питательных веществ, которые дает им Facebook. Если бы Facebook отключил их, Google и органический трафик не поддержали бы их", - вспоминает один из специалистов по изучению данных, участвовавший в работе. "Это было первое реальное подтверждение этого".

Как бы ни был примечателен этот результат - в разгар предвыборного сезона, - от команды, отвечающей за такие сайты, не требовали немедленных изменений. Работа велась просто для того, чтобы компания могла разобраться в ситуации. "Работа шла относительно медленно, и люди, участвовавшие в ней, были немного более академичны", - вспоминает один из участников, занимавший должность в команде по рейтингу новостной ленты.

Даже если бы члены группы были готовы к действиям, они столкнулись бы с препятствием: Цукерберг лично приказал компании отказаться от всего, что напоминало бы человеческое курирование.

Приказ возник в результате спора вокруг "Трендинговых тем" Facebook, регулярно обновляемого списка самых горячих новостей на сайте. Внедренные в 2014 году в качестве попытки конкурировать с Google News и Twitter, "Трендовые темы" позволили Facebook использовать свои автоматизированные системы для выявления тем, которые набирали популярность. Затем члены небольшой команды кураторов выбирали заслуживающие доверия, репрезентативные новости для продвижения с помощью краткой статьи. Некоторые материалы были связаны с политикой, некоторые - с развлечениями, и все они помещались в небольшое поле в правом верхнем углу сайта. Продукт был второстепенным, принципиально не связанным с основным рейтингом ленты новостей Facebook.

Однако сонный статус этой функции изменился в мае 2016 года, когда Майкл Нуньес, репортер технологического сайта Gizmodo, опубликовал серию статей о ее непрозрачной механике. В первой статье Нуньес взял интервью у людей, редактировавших Trending Topics, и обнаружил группу безработных представителей СМИ из Лиги плюща, нанятых через кадровое агентство и работавших в подвале нью-йоркской штаб-квартиры Facebook (двое из них оказались бывшими соседями Нуньеса по комнате). "Никто толком не знает, как это работает, и компания не рассказывает", - пишет журналист.

Компания, предоставившая лишь беглый комментарий для статьи, впоследствии пожалела, что не стала играть в мяч. Хотя статья вызвала шумиху в медиакругах, она не шла ни в какое сравнение с последующей статьей Нуньеса, опубликованной неделю спустя и озаглавленной "Бывшие сотрудники Facebook: We Routinely Suppressed Conservative News". Взрывное утверждение о политической предвзятости, содержащееся в заголовке, в основном опиралось на одного бывшего сотрудника, который вел журнал популярных среди консерваторов тем, которые, по его мнению, обходили стороной его коллеги, например, обвинения в адрес комиссара налоговой службы Лоис Лернер и любые истории о скандальном консервативном комике Стивене Краудере с YouTube.