Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

В результате вопросы, к которым Facebook подходил как к вопросу абсолютного принципа на развитых рынках, в других местах становились вопросами прагматизма. Автоматически закрывать полные ненависти темы комментариев? Ни единого шанса в США. Но, в крайнем случае, это можно было бы временно внедрить перед выборами в Кении. В Мьянме компания в конце концов создала программу проверки фактов, но при этом дала старшему руководителю отдела общественной политики в Сингапуре право в одностороннем порядке удалять контент, который казался сомнительным и подстрекательским - такой подход был гораздо эффективнее, чем ждать, пока сторонние партнеры просмотрят сомнительный пост, объяснят, почему он ложный, и отправят его через системы Facebook. Это также было очевидным нарушением давнего требования Цукерберга о том, чтобы сотрудники не определяли истинность контента на Facebook.

Дополнительная свобода действий, предоставленная команде ARC, имела свои пределы. Цукерберг и команда по ранжированию ленты новостей были непреклонны в том, что статус "В опасности" должен быть временным. Компания не хотела раздваивать свои системы на постоянной основе. И даже в случае со "Странами риска" наиболее эффективные меры были припасены для периодов необычайно высокого риска. Это были небольшие рынки, но в конечном итоге они все равно оставались рынками.

 

-

В то время как команда ARC смотрела на остальной мир, Джеймс Барнс смотрел ближе к дому. После общения с кампанией Трампа он полгода работал в команде Facebook Advocacy, созданной в начале 2017 года, чтобы "использовать Facebook, чтобы рассказать историю Facebook". Поскольку вопросы о роли Facebook в выборах 2016 года тяготили ее репутацию, компания собиралась заняться мягким лоббированием.

Барнса назначили ответственным за "борьбу с мемами", то есть за борьбу с распространением вирусных мистификаций о Facebook на Facebook. Нет, компания не собиралась предъявлять постоянные права на все ваши фотографии, если вы не перепостите пост, предупреждающий об угрозе. И нет, Цукерберг не собирался раздавать деньги тем, кто повторно поделится постом, в котором об этом говорится. Подавление этих цифровых писем счастья имело очевидную выгоду; они запятнали репутацию Facebook и не служили никакой цели.

К сожалению, ограничение распространения этого мусора через News Feed оказалось недостаточным, чтобы его уничтожить. Посты также распространялись через Messenger, во многом потому, что платформа обмена сообщениями побуждала получателей сообщений пересылать их своим друзьям.

Команда Advocacy, в которой работал Барнс, входила в подразделение роста Facebook, и Барнс знал человека, который курировал пересылку сообщений в Messenger. Вооружившись данными о том, что текущая функция переадресации наводняет платформу антифейсбуковским дерьмом, он договорился о встрече.

Коллега Барнса выслушал его, а затем высказал возражение.

"Это действительно помогает нам в достижении наших целей", - сказал мужчина о функции пересылки, которая позволяла пользователям пересылать сообщение списку своих друзей одним нажатием. Перед сотрудниками отдела роста Messenger была поставлена задача увеличить количество "отправлений", которые происходят каждый день. Они разработали функцию пересылки, чтобы стимулировать именно тот импульсивный обмен сообщениями, который команда Барнса пыталась остановить.

Барнс не столько проиграл спор о пересылке сообщений, сколько не смог его начать. В то время, когда компания пыталась контролировать ущерб, нанесенный ее репутации, она также была намеренно безразлична к тому, клевещут ли на нее ее собственные пользователи. Важным было то, что они делились своей клеветой через продукт Facebook.

"Цель сама по себе была священной вещью, которую нельзя подвергать сомнению", - говорит Барнс. "Они специально создали этот поток, чтобы максимизировать количество отправляемых людьми сообщений. Это была Ferrari, машина, созданная для одного: бесконечной прокрутки".

 

-

Через несколько месяцев Барнс покинул эту команду и перешел в тихую часть рекламного бизнеса компании, в то время как ФБР и другие различные правительственные структуры продолжали задавать ему вопросы о его работе в кампании Трампа.

После бурных событий последних нескольких лет Барнс поставил себе ультиматум: он должен работать над улучшением Facebook в преддверии промежуточных выборов 2018 года или уволиться. Уже будучи в дружеских отношениях с Чакрабарти, Барнс спросил, может ли он присоединиться к команде Civic в качестве первого менеджера по продуктам. Чакрабарти принял его в команду.

 

-