Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Даже когда преимущества безопасности были высоки, а бизнес-риски низки - никого не волновал рост числа пользователей в Йемене или мысли сирийского правительства о модерации контента, - инструменты BTG все равно использовались экономно. Например, в преддверии выборов в Мьянме в 2020 году компания задействовала меру "Разбить стекло", которая ограничивала распространение повторно выкладываемого контента и заменяла его на контент от друзей пользователей. Это вмешательство привело к впечатляющему сокращению на 25 % вирусных подстрекательских постов и на 49 % вирусных фотографий-мистификаций. Эти достижения - которые, как отмечалось в служебной записке, снижают риск того, что Facebook "спровоцирует дальнейший конфликт" в Мьянме, - не уменьшили количество сеансов, в течение которых пользователи, говорящие на бирманском языке, заходили в приложение. Единственной ценой стало примерно 2-процентное снижение вовлеченности по показателю "Значимые социальные взаимодействия".

Учитывая историю участия Facebook в этнических чистках в Мьянме, сокращение количества реакций и комментариев на 2 % казалось бы небольшой ценой за большую безопасность. Но даже такая цена оказалась слишком высокой для компании, чтобы принимать ее на постоянной основе. " Мы планируем свернуть это вмешательство после выборов в Мьянме в ноябре", - отмечалось в октябрьском документе команды ARC. После того как бирманские военные захватили власть в результате переворота, компания сохранила некоторые успокаивающие меры, но отменила ограничения на повторный обмен, которые уменьшили распространение подстрекательского контента. В принципе, Цукерберг по-прежнему не любил вносить в платформу изменения, снижающие "ценность для пользователей".

Еще более неохотно компания развертывала защиту Break the Glass у себя дома. Официальное присвоение Соединенным Штатам статуса "страны первого уровня риска" поставило бы их в один ряд с такими странами, как Ирак, Йемен и Сирия, а компания обычно старалась избегать подробного обсуждения эффективности своих чрезвычайных мер даже в этих странах. Это бы показало, что компания обладает значительной властью над такими проблемами, как язык ненависти, - теми, которые такие руководители, как Эндрю Босворт, автор печально известной записки "Уродливая правда", предпочитают сваливать на человечество в целом.

Тем не менее, температура в американской политике, несомненно, повышалась: регулярно происходили стычки между протестующими и полицией в Портленде, караваны сторонников Трампа пытались столкнуть с дороги предвыборный автобус Байдена в Техасе, а действующий президент намекал, что не смирится с поражением. В сентябре Ник Клегг сообщил USA Today, что компания подготовила планы на случай непредвиденных обстоятельств, но не будет их обсуждать, потому что это "несомненно вызовет большее чувство тревоги, чем мы надеемся, будет оправдано". Компания пытается успокоить общественность, что она, по крайней мере, готова справиться с кризисом. Тем не менее, Соединенные Штаты останутся неофициальным членом клуба потенциально несостоятельных государств Facebook.

Один из руководителей отдела коммуникаций Facebook позже сокрушался, что ему не удалось предотвратить появление названия "Разбей стекло" с его ассоциациями с огнетушителями и звонком тревожного колокола. Этот термин вызывал оправданную панику, неминуемый кризис и угрозу человеческой жизни. Все это справедливо, учитывая контекст. Но с точки зрения связей с общественностью, это было абсолютно собачье название, и, возможно, немного слишком в тему.

 

-

К октябрю Civic вернулась к работе в режиме "комнаты войны", контролируя платформу в любое время суток. После нескольких лет настойчивого продвижения более жесткого подхода к таким эндемическим проблемам, как дезинформация и поляризация, некоторые из их самых амбициозных предложений наконец увидели свет. Время было непростое - никогда еще в новейшей истории страна не чувствовала себя так напряженно из-за внутренней политики, - но члены команды считали, что Civic делает все возможное, чтобы соответствовать моменту.

Только Чакрабарти и, возможно, пара доверенных коллег знали, что Civic делает это в последний раз. Давние конфликты между Civic и командами по продуктам, политике и руководству Facebook вылились в фурор после "грабежа/стрельбы", и руководители, за исключением Чакрабарти, в частном порядке начали обсуждать, как решить проблему того, что теперь неоспоримо рассматривалось как мошенническая операция Integrity. Civic, с ее преданным инженерным персоналом, обширными исследованиями и самостоятельно выбранной миссией, оказалась на волоске от гибели.

В электронном письме, полученном комитетом 6 января, Розен сообщил Хегеману, что, как только выборы закончатся, компания, скорее всего, взорвет свою существующую структуру Integrity.

"Мы изучаем несколько моделей в очень, очень тесной группе", - написал Розен, добавив, что Хегеман должен быть "уверен", что перестановки решат "скалистые отношения вашей команды с Civic Integrity".