Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Нигде в статье Нуньеса нет утверждения, что сама компания просила кого-то положить палец на чашу весов против консерваторов. Единственное требование руководства Facebook заключалось в том, чтобы команда избегала выделения историй о самой Facebook. "Другими словами, новостной раздел Facebook работает как традиционный отдел новостей, отражая предубеждения своих сотрудников и институциональные императивы корпорации", - пишет Нуньес. "Наложение человеческих редакторских ценностей на списки тем, которые выдает алгоритм, ни в коем случае не является чем-то плохим - но это резко контрастирует с заявлениями компании о том, что модуль трендов просто перечисляет "темы, которые недавно стали популярными на Facebook". "

Даже если суть истории сводится к тому, что "Facebook занимается скромным человеческим курированием", призрак преднамеренной предвзятости открыл банку с червями в тот самый момент, когда демонизация Трампом СМИ стала центральной частью его кампании.

Кэти Харбат находилась на Филиппинах в момент появления этой истории и узнала о ней, когда в ее ленте новостей стали появляться возмущенные посты друзей-республиканцев с сайта . Она передала свой телефон сотруднику отдела по связям с общественностью Facebook и рассказала, что компания вот-вот станет центральной фигурой в обвинениях консерваторов в предвзятости СМИ.

Она оказалась права. Задача по подавлению возмущения выпала на долю Молли Катлер, юриста и доверенного лица Шерил Сэндберг. Часть работы Катлер заключалась в проведении внутреннего анализа, в ходе которого она обнаружила, что внимание, уделяемое консервативным и либеральным новостным изданиям в Trending Topics, было "практически одинаковым". Трамп был самой обсуждаемой темой и для тех, и для других.

Но Цукербергу этого оказалось недостаточно. Компания поспешила организовать встречу генерального директора с "лидерами консервативной мысли", включая Гленна Бека, Такера Карлсона и Барри Беннета, помощника Трампа, на которой Цукерберг пообещал решительно защищать нейтралитет платформы. "Я хотел лично выслушать их проблемы и провести открытый разговор о том, как мы можем укрепить доверие", - написал Цукерберг в Facebook после встречи.

Через несколько месяцев Facebook уволил всю команду Trending Topics, отправив охранника выпроводить их из здания. В объявлении отдела новостей говорилось, что компания всегда надеялась сделать Trending Topics полностью автоматизированной, и отныне так и будет. Если история превосходила показатели вирусных новостей Facebook, она становилась лидером Trending Topics.

Эффект от переключения не был незаметным. Освобожденный от оков человеческих суждений, код Facebook стал рекомендовать пользователям посмотреть на празднование "Национального дня топлесс", ложную историю о том, что Мегин Келли была уволена с Fox News, и слишком точную историю под названием "Мужчина снимает себя на камеру, занимаясь сексом с сэндвичем McChicken".

Если не принимать во внимание чувства команды социальных сетей McDonald's, есть основания сомневаться в том, что вовлеченность в эту финальную историю отражает подлинный интерес публики к завинчиванию сэндвичей: большая часть вовлеченности, очевидно, исходила от людей, желающих никогда не видеть этот проклятый контент. Тем не менее, Цукерберг предпочитал, чтобы все было именно так. Восприятие нейтральности Facebook имело первостепенное значение; сомнительное и неприятное было лучше, чем предвзятое.

"Цукерберг сказал, что от всего, что связано с человеком, мы должны избавиться, насколько это возможно", - вспоминает член команды по ранней поляризации.

Среди первых жертв такого подхода оказался единственный инструмент компании для борьбы с мистификациями. Более десяти лет Facebook избегала удаления даже самой очевидной чепухи, что было не столько принципиальной позицией, сколько единственно возможным вариантом для стартапа. "Мы были кучкой студентов в одной комнате", - говорит Дейв Уиллнер, муж Шарлотты Уиллнер и человек, написавший первые стандарты контента Facebook. "Мы были радикально не готовы и не имели права решать, какой должна быть правильная история мира".

Но когда компания начала получать миллиарды долларов ежегодной прибыли, появились, по крайней мере, ресурсы для рассмотрения проблемы фальшивой информации. В начале 2015 года компания объявила, что нашла способ борьбы с мистификациями без проверки фактов, то есть без оценки правдивости самой информации. Она просто будет подавлять контент, о котором пользователи непропорционально часто сообщают как о ложном.