Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Бежар не знал, что за шесть месяцев до этого команда переработала систему отчетов Facebook с конкретной целью сократить количество завершенных пользовательских отчетов, чтобы Facebook не пришлось с ними возиться, высвободив ресурсы, которые в противном случае можно было бы направить на обучение системы модерации контента, управляемой искусственным интеллектом. В служебной записке, посвященной усилиям по сдерживанию расходов на модерацию разжигания ненависти, один из руководителей признал, что Facebook, возможно, перестаралась в своих усилиях по пресечению потока пользовательских сообщений: "Возможно, мы завели иглу слишком далеко", - написал он, предположив, что, возможно, компания не хочет подавлять их так тщательно.

Позже компания заявила, что пыталась улучшить качество отчетов, а не подавить их. Но Бежару не нужно было видеть эту записку, чтобы распознать недобросовестность. Достаточно было увидеть веселую синюю кнопку. Он положил телефон, ошеломленный. Facebook должен был работать не так. Как может платформа заботиться о своих пользователях, если ей недостаточно внимания, чтобы прислушаться к тому, что их расстраивает?

В этом было высокомерие, предположение, что алгоритмам Facebook даже не нужно слышать о том, что испытывают пользователи, чтобы понять, чего они хотят. И даже если обычные пользователи не могли видеть это так, как Бежар, в конце концов они получили бы сообщение. Такие люди, как его дочь и ее друзья, несколько раз сообщали об ужасных вещах, прежде чем поняли, что Facebook это не интересует. Тогда они перестанут.

Когда Бежар в очередной раз вошел в кампус Facebook, его по-прежнему окружали умные, искренние люди. Он не мог представить, что кто-то из них решил переделать функции отчетности Facebook с целью обмануть пользователей и заставить их выбросить свои жалобы в мусорную корзину; но, очевидно, они это сделали.

"После этого мне потребовалось несколько месяцев, чтобы разобраться в правильном вопросе", - говорит Бежар. "Что сделало Facebook местом, где подобные усилия естественным образом смываются, а люди ломаются?"

 

-

Не зная Бежара, многие сотрудники Facebook задавались подобными вопросами. По мере того как социальная сеть все больше и больше подвергалась тщательному изучению извне и изнутри, в Facebook появился постоянно расширяющийся штат сотрудников, занимающихся изучением и устранением множества проблем, оказавшихся в центре внимания.

Эти усилия, в широком смысле называемые работой по обеспечению добросовестности, вышли далеко за рамки обычного модерирования контента. Для диагностики и устранения проблем социальных сетей требовались не только инженеры и специалисты по обработке данных, но и аналитики, экономисты и антропологи. Этот новый класс технических работников оказался в состоянии противостоять не только внешним противникам, решившим использовать социальные сети в своих целях, но и убежденности высшего руководства в том, что использование Facebook - это абсолютное благо. Когда в одноименной социальной сети компании происходили отвратительные вещи, эти руководители указывали пальцем на недостатки человечества.

У сотрудников, ответственных за решение проблем Facebook, не было такой роскоши. Их работа требовала понимания того, как Facebook может искажать поведение своих пользователей - и как оно иногда "оптимизируется" таким образом, чтобы предсказуемо нанести вред. Добросовестные сотрудники Facebook стали хранителями знаний, о существовании которых внешний мир не подозревал, а начальство отказывалось верить.

Пока небольшая армия исследователей с докторскими степенями в области науки о данных, поведенческой экономики и машинного обучения выясняла, как их работодатель изменяет человеческое взаимодействие, я был занят решением куда более простых вопросов о том, как работает Facebook. Я недавно переехал на Западное побережье, чтобы освещать деятельность Facebook в Wall Street Journal, и эта работа была связана с неприятной необходимостью притворяться, что я авторитетно пишу о компании, которую не понимаю.

И все же у меня была причина, по которой я хотел заниматься социальными сетями. После четырех лет журналистских расследований в Вашингтоне работа по обеспечению политической ответственности, которой я занимался, казалась мне бессмысленной. В новостной экосистеме теперь доминировали социальные сети, и истории не получали распространения, если они не апеллировали к онлайн-партизанам. Было так много плохой информации, распространяемой вирусами, но проверки фактов, которые я писал, казались не столько корректирующими мерами, сколько слабой попыткой оседлать хвост дерьма.

Освещение Facebook было, таким образом, капитуляцией. Система обмена информацией и достижения консенсуса, частью которой я являлся, была на последнем издыхании, поэтому я мог бы получать деньги за то, чтобы писать о том, что придет ей на смену.