Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Но с самого начала Киран поняла, что что-то явно не так. Отчасти проблема заключалась в политическом фаворитизме Дас. Она следила за тем, чтобы Facebook жертвовал средства благотворительным организациям, поддерживающим правительство, и проводила на официальных страницах Facebook живые интервью с министрами BJP, стремящимися повысить свой авторитет. Она не стеснялась внутренне выражать свою поддержку правительству Моди.

Коллегам Дас иногда казалось неприятным, что она говорит как оперативник кампании BJP, но партийные связи не были чем-то необычным для главы отдела общественной политики Facebook на важных рынках. В США Джоэл Каплан принадлежал к республиканцам; он привел в ярость коллег, когда явился поддержать Бретта Кавано во время слушаний в Конгрессе по обвинениям будущего судьи Верховного суда в сексуальных домогательствах к нему. В Израиле главой отдела политики была Йордана Катлер, бывший помощник премьер-министра Биньямина Нетаньяху. Facebook хотела иметь дружеские отношения с правительствами, поэтому нанимала людей, у которых они уже были.

Но Киран, чья работа позволила им ознакомиться с тем, как Facebook решает резонансные проблемы с модерацией контента по всему миру, увидела в происходящем нечто более мрачное. Когда американские сотрудники предупреждали о том, что общественные деятели используют платформу для подстрекательства к насилию, они говорили о том, что Трамп разместил угрожающее, зашифрованное односложное сообщение из Twitter. В Индии более подходящей точкой отсчета был не президент США, а события, произошедшие за несколько месяцев до этого, в феврале 2020 года, когда индуистские активисты в Дели, некоторые из которых принадлежали к BJP, призвали своих подписчиков в Facebook силой разогнать многомесячную сидячую забастовку мусульман.

" Индусы, выходите. Умри или убей", - заявил один из видных активистов во время прямой трансляции в Facebook, согласно более позднему отчету индийских государственных служащих в отставке. В результате последовавших за этим беспорядков погибли 53 человека, а северо-восточная часть Дели была сожжена.

По мнению Киран, сотрудники Facebook в в Соединенных Штатах не понимали, насколько тяжелой становится ситуация в Индии. Они не видели индуистских групп, занимающихся защитой коров, которые собирали слухи о перевозке скота на убой, а затем документировали самосуд над водителями грузовиков. Они не знали, что полиция не собирается появляться, когда воинствующие индуистские группы совершают налеты на церкви, обвиненные в обращении в другую веру. И они не знали, что из-за постов в Facebook о "Любовном джихаде" - исламофобской теории заговора, согласно которой мусульмане хотят захватить Индию, соблазняя наивных индусских девушек, - гибнут люди.

Киран попыталась объяснить это своим коллегам в Менло-Парке. Они участвовали в политических форумах и вместе с другими сотрудниками успешно добивались от компании запрета ненависти по кастовому признаку. Они отметили, насколько риторика "Любовного джихада" отражает представления о чернокожих американцах как о гиперсексуальных хищниках - клевету, связанную с многочисленными линчеваниями времен Джима Кроу. Но хотя их американские коллеги соглашались с тем, что в Индии у компании серьезные проблемы с честностью и неподкупностью, казалось, что мало что происходит. Все говорили: "Да, да, да, да", а потом все это оставалось незавершенным", - говорит Киран.

То, что их американские коллеги в целом не понимали, в каком состоянии находится Facebook в Индии, оказалось верным. Сотрудники Facebook - если они вообще регулярно пользовались этой платформой вне работы - с таким же успехом могли быть на другой платформе.

С точки зрения компании, это был намеренный выбор дизайна. С тех пор как в 2008 году Facebook решил ускорить свой выход на международный рынок, поручив перевод своего сайта добровольцам за рубежом, платформа в основном считала непонимание того, как ее используют, преимуществом своей бизнес-модели. Предположение, что пользователи сами разберутся в ситуации, возможно, также объясняло, почему компания так и не удосужилась перевести стандарты своего сообщества на все десятки языков, на которых она предлагала сайт, и почему она так и не наняла ни одного модератора, способного говорить на основном языке каждой страны, в которой она работала.

Ценой этой оперативности стало невежество. Даже когда компания создавала облегченные версии своих продуктов для работы на дешевых устройствах , предпочитаемых на бедных рынках, и платила телекоммуникационным компаниям на границе, чтобы обеспечить бесплатный доступ к Facebook в деревнях, где нет дорог, она продолжала создавать и оптимизировать платформу для людей, которые использовали ее так же, как и они, - людей, которые принимали запросы в друзья только от знакомых, контролировали, за какими страницами они следят, и отключали знакомых, которые делились слишком большим количеством хлама.