Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

"Создавать вещи гораздо интереснее, чем обеспечивать их защиту и безопасность", - говорит он об отношении компании. "Пока не возникнут проблемы с регуляторами или прессой, вы не будете с этим разбираться".

Постоянный поток аварийных ситуаций и некачественно созданных функций породил мрачные шутки о том, что Facebook - старейший в мире стартап, а неряшливость - самая стойкая черта его культуры. В 2021 году, когда Майк Шрепфер, тогдашний директор по технологиям, спросил инженеров компании, что их больше всего расстраивает, ответ был ошеломляющим. "Нам постоянно нужно, чтобы что-то проваливалось - часто чертовски эффектно, - чтобы вызвать интерес к исправлению, потому что мы награждаем героев больше, чем людей, которые предотвращают необходимость героизма", - гласил главный ответ на Workplace, который собрал около тысячи положительных откликов и десятки комментариев, рассказывающих о катастрофических, но неизбежных инженерных неудачах.

Нигде в системе не было места контролю качества. Вместо того чтобы пытаться ограничить проблемный контент, Facebook, как правило, предпочитал персонализировать ленты пользователей тем, что, по его мнению, они хотели бы видеть. Хотя легкое отношение к модерации имело практические преимущества - продажа рекламы против контента, который вы не просматриваете, это отличный бизнес, - Facebook стал относиться к этому как к моральной добродетели. Компания не пыталась контролировать действия пользователей - она была нейтральна.

Хотя компания признала, что ей придется выполнять некоторые полицейские функции, руководители продолжали утверждать, что платформа в основном регулирует себя сама. В 2016 году, когда компания столкнулась с давлением, требующим более жесткой модерации вербовки террористов, Шерил Сэндберг заявила на Всемирном экономическом форуме, что платформа делает все возможное, но что долгосрочное решение проблемы ненависти в Facebook - это утопить ее в позитивных сообщениях.

" Лучшее противоядие от плохой речи - это хорошая речь", - заявила она, рассказывая аудитории о том, как немецкие активисты обрушили на страницу неонацистской политической партии в Facebook "лайки", завалив ее сообщениями о толерантности.

Определенно, "контрречь", которую описывала Сэндберг, в Facebook не работает. Какой бы вдохновляющей ни была концепция, взаимодействие с мерзким контентом привело бы к тому, что платформа распространила бы неприемлемый материал среди более широкой аудитории.

Несмотря на реалии механики платформы, такая вера в доброту Facebook часто использовалась для придания стремлению Facebook к росту блеска морального императива. Такая уверенность достигла своего пика во внутренней записке Эндрю "Боз" Босворта, который прошел путь от одного из помощников Марка Цукерберга в Гарварде до одного из его самых доверенных помощников и конфидентов в Facebook. Под названием "Уродливый" Босворт написал памятку в июне 2016 года, через два дня после того, как убийство жителя Чикаго было случайно показано на Facebook. Столкнувшись с призывами к компании пересмотреть свои продукты, Босворт сплотил войска.

"Мы часто говорим о хорошем и плохом в нашей работе. Я хочу поговорить о плохом", - говорилось в записке. По его словам, общение людей приносит очевидную пользу - но в масштабах Facebook оно может принести вред, будь то издевательства пользователей над сверстником до самоубийства или использование платформы для организации террористической атаки.

То, что Facebook неизбежно приведет к таким трагедиям, было прискорбно, но не это было главным. Безобразие, писал Боз, заключалось в том, что компания настолько глубоко верила в свою миссию общения людей, что готова была пожертвовать чем угодно ради ее выполнения.

"Вот почему вся работа, которую мы проводим в области роста, оправдана. Все сомнительные методы импорта контактов. Все тонкие формулировки, которые помогают людям оставаться в поиске друзей. Вся работа, которую мы делаем, чтобы привлечь больше общения. Работа, которую нам, вероятно, когда-нибудь придется выполнять в Китае. Все это", - написал Босворт.

Facebook и Босворт отреклись от своих аргументов, когда BuzzFeed News опубликовал меморандум два года спустя, но это не умалило его правоты. Facebook злоупотребляла списками контактов людей, чтобы стимулировать рост. Она писала свои правила конфиденциальности таким образом, что сбивала с толку пользователей, которые хотели сделать свои профили более приватными. И она работала над созданием инструментов цензуры в рамках своих усилий по получению доступа в Китай. Все это было отвратительно, и Facebook делала это сознательно. Меморандум Босворта не был мысленным экспериментом. Это был кодекс, по которому жила компания.

 

-