Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Так возник BEEF, сокращение от "Bad Emotional Experience Feedback". Посоветовавшись с группой инженеров-единомышленников и менеджеров по продуктам, Бежар разработал еженедельный опрос, призванный количественно оценить неприятные ощущения от Instagram, будь то нежелательное столкновение с насилием или издевательства над сверстником. Если бы компания знала, какой части подростков, как и его собственным, приходится еженедельно отбиваться от агрессивных сексуальных домогательств и словесных оскорблений в Instagram, возможно, руководители поняли бы, насколько ошибочным был их подход к управлению платформой.

"Я все время думал, что Марк и все эти люди просто не знают", - говорит Бежар.

В середине 2021 года у Бежара подходил к концу двухлетний контракт, и он готовился к последней попытке убедить руководство Facebook. История Бежара и поддержка руководителей команды Instagram Well-Being позволили ему представить свою работу непосредственно высшему руководству компании.

В начале презентации он отметил, что 51 процент пользователей Instagram сообщили, что за последние семь дней у них был "плохой или вредный" опыт общения с платформой. Но только 1 процент этих пользователей сообщил компании о неприемлемом контенте, и Instagram принял меры в 2 процентах случаев. Это означает, что платформа исправила только 0,02 процента того, что расстроило пользователей - всего один плохой опыт из каждых 5 000.

"Вероятно, в Facebook цифры примерно такие же", - отметил он, назвав статистику свидетельством того, что компания не в состоянии понять опыт таких пользователей, как его собственная дочь. По словам Бежара, сейчас ей шестнадцать, и недавно ей сказали "вернуться на кухню" после того, как она написала о машинах, а она продолжала получать непрошеные фотографии членов, которые получала с четырнадцати лет. "Я спросил ее, почему мальчики продолжают это делать? Она ответила, что если единственное, что произойдет, - это их заблокируют, то почему бы и нет?"

Два года исследований подтвердили правильность логики Джоанны Бежар. Еженедельно 24 процента всех пользователей Instagram в возрасте от тринадцати до пятнадцати лет получали нежелательные предложения, сообщила Бежар руководителям. Большая часть этих злоупотреблений не нарушала политики компании, и Instagram редко ловил ту часть, которая нарушала.

"Принуждение к соблюдению политики можно сравнить с полицией: оно необходимо для предотвращения преступлений, но это не то, что позволяет чувствовать себя в безопасном пространстве", - написал Бежар. Как бы Facebook ни хотел решить проблемы с честностью за счет снижения распространенности официально плохого контента, компании придется переориентироваться на показатели, основанные на опыте, такие как BEEF, и на усилия по внедрению социальных норм.

"Я обращаюсь к вам, потому что считаю, что такая работа потребует изменения культуры. Я знаю, что все в M-team глубоко заботятся о людях, которым мы служим, и о сообществах, которые мы пытаемся развивать", - написал Бежар.

Бежар также попытался донести эту мысль до руководителей компании в индивидуальном порядке, объяснив, что между поведением, которое Facebook считает проблемой, и тем, что воспринимают как проблему его пользователи, существует небольшая корреляция. Моссери показался ему благосклонным, а Сэндберг - сочувствующей, хотя и не заинтересованной в теме жестокого поведения по отношению к молодым женщинам. Сюрпризом для него стал Кокс.

"Он знал", - сказал Бежар. Главный директор по продуктам Facebook, похоже, понял доводы Бежара: платформы компании не позволяли пользователям серьезно возражать против того, как с ними обращаются, и тем более не давали им инструментов, чтобы рассчитывать на что-то лучшее. Но, выслушав предложения Бежара, в том числе о том, что, возможно, компании следует срочно начать работать над снижением доли подростков, которые еженедельно сообщают о нежелательном сексуальном контенте, он остался безучастным. "О да, это звучит очень интересно", - вспоминает Бежар, что сказал ему Кокс. "Позвольте мне передать это Гаю Розену".

Розену, архитектору правоприменительной деятельности Facebook, основанной на метриках, явно не хватало ни интереса, ни влияния, чтобы продвинуть подобное предложение. Отказ привел Бежара в изумление. "Кокс был одним из тех людей, которые прикрывали меня, когда я работал в компании. Он действительно получил о сострадании, и он поддержал это предложение для Марка". (Представитель компании сказал, что направление Кокса просто отражало его уверенность в том, что Розен, как глава Integrity, был подходящим руководителем для обсуждения этого вопроса).