Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Во время этнорегиональной гражданской войны в Эфиопии у Facebook не было классификатора языка ненависти ни для одного из основных языков страны. Количество проверок фактов на одного пользователя там было на 3 % меньше, чем в США, и даже не позволяло людям сообщать о нарушении содержания на языке оромо, языке самого густонаселенного региона Эфиопии.

"Мы в значительной степени слепы к проблемам на нашем сайте", - говорится в презентации Лича, посвященной Эфиопии.

Сотрудники Facebook выпустили множество внутренних работ, подобных этой: заявления о том, что компания запуталась в себе и не в состоянии обеспечить даже элементарное устранение потенциально ужасных проблем. События на платформе вполне могли привести к гибели людей и почти наверняка привели, утверждают правозащитные группы, ведущие мониторинг в Эфиопии. Меарег Амаре, преподаватель университета в Аддис-Абебе, был убит возле своего дома через месяц после того, как вирусным стал пост, набравший 35 000 лайков, в котором был указан его домашний адрес и содержался призыв к нападению на него. Facebook не удалил его. Теперь его семья судится с компанией.

Как это часто бывает, компания предпочла рост качеству. Усилия по расширению сервиса в более бедных и изолированных местах не заставили себя ждать, пока защита пользователей догонит их, и даже в странах с "ужасным" риском массовых злодеяний команде "Страны риска" требовалось разрешение на действия, которые вредили взаимодействию.

Обещание компании "бороться за свободу слова во всем мире", как выразился Цукерберг в своей речи в Джорджтауне, также имело свои пределы. В начале 2020 года, пытаясь заставить Facebook выполнить приказ о цензуре "антигосударственных" постов, правительство Вьетнама заблокировало локальные серверы компании в стране. Это не привело к отключению сервисов Facebook, а лишь сделало их работу медленной и прерывистой.

Facebook держался семь недель. Затем она подчинилась требованиям правительства и удалила аккаунты активистов, которые в итоге были приговорены к длительным тюремным срокам.

Компания Facebook заявила агентству Reuters, которое рассказало о капитуляции компании, что по-прежнему считает свободу слова одним из основных прав. Как и пользование Facebook. "Мы приняли эти меры, чтобы гарантировать, что наши сервисы останутся доступными и удобными для миллионов людей во Вьетнаме, которые полагаются на них каждый день", - говорится в заявлении компании.

 

-

Несмотря на ограничения, даже желчно настроенные сотрудники смогли увидеть ценность своей работы, когда были закрыты сети ненависти, пересмотрены политики и внесены изменения в рейтинги. Масштаб компании усиливал их достижения. Один день, проведенный за обновлением внутреннего списка арабоязычных анти-ЛГБТК-ругательств Facebook, оказал большее влияние на общественный дискурс, чем могла мечтать местная некоммерческая организация.

Но выполнение этой работы требовало принятия ограничений, связанных с бизнесом. Возможно, наибольший диссонанс между стремлениями и реальностью испытывали сотрудники, работавшие в Индии, которая одновременно представляла собой "первый уровень" риска насилия в обществе, а также имела правительство, которого Facebook опасалась.

Документы и стенограммы внутренних встреч американских сотрудников компании показывают, как сотрудники пытаются объяснить, почему Facebook не следует своему обычному плану действий при борьбе с разжиганием ненависти, координацией насилия и правительственными манипуляциями в Индии. Сотрудники в Менло-Парке обсуждали продвижение BJP лжи о "Любовном джихаде". Они встречались с представителями правозащитных организаций, которые документировали насилие, совершаемое мстителями, защищающими коров. Они отслеживали усилия индийского правительства и его союзников по манипулированию платформой через сети аккаунтов. Однако ничего не изменилось.

"У нас много бизнеса в Индии, да. И у нас есть связи с правительством, я полагаю, поэтому есть некоторые нюансы, связанные со смягчением последствий в Индии", - рассказал один сотрудник другому о том, как компания долгое время не реагировала на оскорбительные действия со стороны индийской разведки.

На другой встрече группа, занимавшаяся проблемой "политизированной ненависти", сообщила коллегам, что BJP и ее союзники координируют клевету "Любовный джихад" и другой хэштег, #CoronaJihad, основанный на идее, что мусульмане заражают индусов вирусом COVID через халяльную еду.

Раштрия Сваямсевак Сангх, или РСС - зонтичное индуистское националистическое движение, политической ветвью которого является BJP, - распространяло эту клевету через 6000 или 7000 различных организаций на платформе с целью представить индийских мусульман недочеловеками, пояснил ведущий. В некоторых сообщениях говорилось, что Коран призывает мусульманских мужчин насиловать членов своей семьи женского пола.

"То, что они делают, действительно пронизывает индийское общество", - отметил ведущий, назвав это частью "большой войны".