Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Удивительно, как трудно было разобраться даже в основах. Публичные объяснения Facebook алгоритма Ленты новостей - кода, который определял, какие посты появляются перед миллиардами пользователей, - опирались на фразы вроде "Мы соединяем вас с теми, кто и что важнее всего". (Позже я узнал, что у компании была причина, по которой она умолчала о деталях: фокус-группы пришли к выводу, что подробные объяснения "Ленты новостей" оставляют пользователей в замешательстве и тревоге - чем больше люди думали о передаче "кто и что важнее всего" Facebook, тем менее комфортно они себя чувствовали).

В знак признания своей огромной власти и влияния на общество в 2017 году компания создала блог Hard Questions, заявив в своем первом сообщении, что "серьезно относится к нашей ответственности и подотчетности за наше воздействие и влияние". Но Hard Questions никогда не вдавался в подробности, и после нескольких изнурительных лет общественного контроля от него тихо отказались.

К тому времени, когда я начал освещать деятельность Facebook, нежелание компании отвечать на вопросы репортеров тоже возросло. Пресс-служба Facebook - щедрая команда из почти четырехсот сотрудников - имела репутацию дружелюбной, профессиональной и нежелающей отвечать на вопросы. У меня было много знакомых пиарщиков, но никто не хотел рассказывать мне, как работают рекомендации Facebook "Люди, которых вы можете знать", какие сигналы отправляют спорные посты в вирусное распространение или что имела в виду компания, когда заявляла, что ввела чрезвычайные меры безопасности пользователей на фоне этнических чисток в Мьянме. Рекомендации по контенту платформы определяют, какие шутки, новости и сплетни становятся вирусными по всему миру. Как она могла стать таким "черным ящиком"?

Возникшее разочарование объясняет, как я стал поклонником всех, кто хоть немного знаком с механикой Facebook. Бывшие сотрудники, согласившиеся поговорить со мной, с самого начала говорили тревожные вещи. Автоматизированные системы принуждения Facebook были совершенно неспособны работать так, как было заявлено. Усилия, направленные на стимулирование роста, непреднамеренно вознаграждали политическую фанатичность. И компания знала гораздо больше о негативных последствиях использования социальных сетей, чем утверждала.

Это был дикий материал, гораздо более убедительный, чем постоянные обвинения в том, что платформа несправедливо цензурирует сообщения или благоволит президенту Трампу. Но мои источники из бывших сотрудников Facebook не могли предложить много доказательств. Уходя из компании, они оставляли свою работу за стенами Facebook.

Я сделал все возможное, чтобы привлечь нынешних сотрудников в качестве источников информации, отправив сотни записок, суть которых сводилась к двум вопросам: Как на самом деле работает компания, в руках которой находятся миллиарды людей? И почему так часто кажется, что это не так?

Другие репортеры, конечно, тоже делали подобные версии. И время от времени мы получали отрывочные документы, указывающие на то, что возможностей и проблем у Facebook больше, чем он сам о себе заявляет. Мне посчастливилось быть там, когда поток информации превратился в поток.

Через несколько недель после выборов 2020 года Фрэнсис Хауген, менеджер по продуктам среднего звена в команде Facebook по обеспечению гражданской целостности, ответила на одно из моих сообщений в LinkedIn. По ее словам, людям нужно было понять, что происходит в Facebook, и она сделала несколько заметок, которые, по ее мнению, могут быть полезны для объяснения.

Хауген нервничал, не решаясь сказать что-то еще через LinkedIn или по телефону, поэтому в тот уик-энд мы встретились на туристической тропе в холмах за Оклендом. После четвертьмильной прогулки по прибрежным красным лесам Калифорнии мы сошли с тропы, чтобы поговорить наедине.

Хауген с самого начала была необычным источником информации. Платформы Facebook подрывали веру в общественное здравоохранение, способствовали авторитарной демагогии и рассматривали пользователей как эксплуатируемый ресурс, заявила она на нашей первой встрече. Вместо того чтобы признать свои проблемы, Facebook продвигала свои продукты на отдаленные, бедные рынки, где, по ее мнению, они практически гарантированно принесут вред.

По ее словам, поскольку Facebook не справляется со своими недостатками, она решила, что ей придется сыграть свою роль в их обнародовании.

Ни один из нас не обладал достаточно грандиозным воображением, чтобы предположить, к чему приведут эти амбиции: десятки тысяч страниц конфиденциальных документов, показывающих глубину и масштаб вреда, причиняемого всем - от девочек-подростков до жертв мексиканских картелей . Это ввергло бы Facebook в многомесячный кризис: Конгресс, европейские регулирующие органы и рядовые пользователи задавались вопросом о роли Facebook в мире, который, казалось, погружался во все большую смуту.