Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

В октябре на общеорганизационном форуме исследователей пользовательского опыта Пратити Райчудхури, руководитель отдела исследований, сказала своим сотрудникам, что они стали неаккуратными и слишком напористыми в высказывании своего мнения. Кокс согласился с ней по видеосвязи. По его словам, история с психическим здоровьем подростков показала, что журналисты могут исказить результаты работы с благими намерениями. В дальнейшем, по его словам, компании придется жестче контролировать внутренние дискуссии.

Характер этих новых требований стал ясен через несколько недель в служебной записке от 1 ноября для исследователей Integrity под названием "О нарративном превосходстве". В меморандуме, написанном Рейчудхури и еще двадцатью тремя менеджерами и руководителями, говорилось, что Meta привержена "честной и критической работе над существующими процессами", но такая работа "уязвима для неверного толкования" и должна быть более "эффективной".

Далее последовало пространное руководство по самоцензуре.

Прежде чем опубликовать материал, исследователи должны "проверить его на прочность", предугадав возможные опасения со стороны политического, коммуникационного или юридического отделов компании; четко указать, что все, кроме готовых отчетов, являются предварительными; и приложить причины, по которым они могут ошибаться. Лучшие практики исследований включают ограничение аудитории материала как можно меньшим количеством людей, отказ от попыток связать проблемы на платформе с вредом в офлайне и от утверждений, что компания обязана принять меры. Ни при каких обстоятельствах, предупреждает "Руководство для сопровождающих", исследователи не должны высказывать мнение, что компания нарушает какой-либо закон.

Руководство содержало несколько кафкианских предписаний. В одной из памяток исследователям предписывалось получать специальное разрешение, прежде чем изучать что-либо из списка тем, требующих "обязательного надзора" - даже когда руководитель признал, что компания не ведет такого списка.

Памятка "Превосходство в изложении" и сопровождающие ее заметки и диаграммы были руководством по созданию документов, которые репортеры вроде меня не хотели бы видеть. К сожалению, как отметили в своих ответах несколько смелых исследователей пользовательского опыта, достижение "Нарративного совершенства" было практически несовместимо с успешной работой. Писать то, что "безопаснее для утечки", означало писать то, что будет иметь меньшее влияние.

Ни один из двух десятков менеджеров, перечисленных в записке, не ответил.

Некоторые проекты были отменены только потому, что их названия вызывали споры. Юридический отдел Facebook остановил работу над классификатором "Добро для мира" - предсказателем того, будет ли пользователь считать пост социально позитивным, - из-за того, что Facebook рекомендовал контент, который таковым не являлся.

Новый подход компании был лучше всего отражен в серии презентаций, сопровождавших очередную перестановку, объявленную в середине 2022 года. Все команды компании, занимающиеся вопросами целостности и социальными вопросами, должны были подчиняться новой структуре, задача которой заключалась в "усилении добра, которое происходит на технологических платформах Meta". Эта структура, в свою очередь, будет поддерживать усилия в приложениях Facebook и Instagram, чтобы "повысить осведомленность о положительном влиянии Meta на мир" и в конечном итоге "завоевать сердца и изменить восприятие".

Все сотрудники Facebook, занимающиеся вопросами честности и социальной ответственности, теперь в буквальном смысле подчинялись маркетингу, и это не могло не сказаться. Ученые-социологи должны были получать разрешение не только на проведение исследований, затрагивающих политику, изменение климата, предвзятость, здоровье или благополучие пользователей, но даже на то, чтобы предложить изучить эти темы или обобщить результаты своей прошлой работы.

За редким исключением, даже те сотрудники, которые бросали бомбы внутри компании, традиционно воздерживались от публичной критики Facebook, даже после своего ухода из компании. Одним из объяснений был страх перед соглашением о неразглашении, которое заставляли подписывать всех сотрудников, - юридическим документом, в котором говорилось, что утечки наносят компании "непоправимый вред", за который она может потребовать "чрезвычайной помощи в суде".

Хауген не просто нарушила это обещание, она его осквернила. Компания Facebook не только отказалась сообщить Конгрессу, что не будет принимать против нее никаких мер, но в то же время и не предпринимала никаких действий против нее. Учитывая, что столь обширные исследования компании уже обсуждались многими людьми за ее пределами, некоторые сотрудники решили, что нет ничего плохого в том, чтобы присоединиться к ним?

"Я был впечатлен тем, насколько более открыто многие люди говорят публично", - написал мне один из источников. Как будто я не собираюсь "натягивать Фрэнсиса", так что высказать свое мнение в Twitter - не такая уж большая проблема".