Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Facebook, скорее всего, не придется устранять вирусность, чтобы справиться с проблемой, продолжил он, проиллюстрировав свой тезис грубым графиком, предполагающим, что компания может сократить основную часть вирусного вреда без существенного ущерба для полезности платформы для пользователей. Джин отметил, что график был гипотетическим, потому что Facebook никогда не пробовал набирать обороты. Возможно, время пришло.

Хегеман был настроен скептически. Если Джин прав, ответил он, то Facebook, вероятно, следовало бы предпринять радикальные меры, например закрыть все решетории, а компания не очень-то настроена на такие попытки. "Если мы удалим небольшой процент повторных покупок из инвентаря людей", - написал Хегеман, - "они решат реже возвращаться в Facebook".

Хегеман не был враждебен по отношению к сотрудникам Integrity. Многие из тех, кто работал с ним, считали его своим союзником. Но изменить Facebook таким образом, чтобы уменьшить число его ежедневных пользователей, было просто немыслимо.

Через несколько месяцев после этого обмена мнениями компания пересмотрела руководство по тестированию изменений в продукте и интерпретации результатов экспериментов. Какой бы ни была эволюция мышления компании за годы, прошедшие после выборов 2016 года, - будь то большее внимание к качеству контента или лучшее понимание опасностей вирусности - "Ежедневное количество пользователей" по-прежнему оставалось ее северной звездой. В руководстве говорилось, что любая предложенная функция, уменьшающая количество ежедневных пользователей Facebook хотя бы на 0,1 процента, почти наверняка будет мертва по прибытии.

"Правило № 1, DAP священен", - провозглашалось на презентации.

Компания старалась не трогать другие показатели, такие как количество зарегистрированных сессий, проведенное время и количество оригинальных постов. Но когда речь заходила о показателях дезинформации или других вредных факторах, на которые Джин обращала внимание, еще не было защитных перил, которые не позволяли бы командам, ориентированным на рост, изменять Facebook таким образом, чтобы это вредило показателям целостности, и даже не предупреждали бы об этом. Потребовалось до второй половины 2019 года, чтобы кто-то создал приборную панель, которая могла бы обнаружить, когда другие продуктовые команды подрывают работу сотрудников, занимающихся вопросами целостности.

Как только новая система заработала, команда Facebook по обеспечению честности поняла, что у нее есть проблема. Изменения в платформе, ориентированные на рост, похоже, активно усугубляли проблемы честности. В служебной записке исследователя Civic отмечалось, что за год количество просмотров контента со страниц, на которых регулярно размещалась дезинформация, выросло на 17 %. Просмотры контента со страниц, которые нарушали стандарты сообщества Facebook не менее четырех раз за последние девяносто дней, выросли на 64 %.

После двух с половиной лет самоанализа мысль о том, что изменения в пользу роста иногда усугубляют проблемы целостности, не могла стать полной неожиданностью ни для кого в Facebook. Но никто не мог понять, насколько прямо противоположны эти две цели. По крайней мере с конца 2018 года, а почти наверняка и задолго до этого, коллеги Сивика в других подразделениях Facebook наращивали количество пользователей и получали бонусы, отдавая предпочтение контенту, с которым компания публично обещала бороться.

С приближением президентских праймериз 2020 года Сивик утверждал, что компании наконец-то нужно понять, как перестать стрелять себе в ногу.

"Необходимо провести важные беседы, - пишет исследователь, - чтобы определить, действительно ли Facebook считает, что выгода от дополнительного 1-процентного роста перевешивает вред от демонстрации пользователям на 10 процентов больше дезинформации".

С точки зрения Civic, ответ на этот вопрос был очевиден. Несмотря на усилия команды, просмотры контента страниц, неоднократно нарушавших правила Facebook, выросли с начала года на 23 %. В преддверии выборов 2020 года компания вряд ли могла позволить себе дальнейшее ослабление своей защиты.

"Необходимо держать удар", - написал исследователь в служебной записке. Отмена изменений в продуктах, ориентированных на рост и в наибольшей степени ответственных за это увеличение, была такой же срочной, как необходимость "поставить мешки с песком во время шторма".

Если в Civic полагали, что руководство Facebook будет потрясено открытием, что усилия компании, направленные на рост, усугубили проблемы с честностью и неподкупностью Facebook, то они ошиблись. Цукерберг не только враждебно относился к будущей работе по борьбе с ростом; он начал сомневаться, что некоторые из прошлых усилий компании по обеспечению честности были ошибочными.