Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Коллега на встрече задал очевидный вопрос. Учитывая, что компании было достоверно известно о скоординированной кампании ненависти, почему посты или аккаунты не были удалены?

"Последние полтора года я получал ответ, что удалять RSS-контент как ненавистный слишком политически чувствительно", - сказал ведущий.

Ничего не нужно было говорить в ответ.

"Я вижу ваше лицо", - сказал ведущий. "И я полностью согласен".

 

-

Если американским сотрудникам в Менло-Парк было трудно смириться с согласованной геноцидной риторикой, то Кирану это было гораздо труднее.

Как сотрудника Facebook, их будущее в Индии было блестящим. Однако как человеку, приверженному светской демократии, им было страшно. И в итоге второе перевесило первое.

Особенно запомнился один случай, связанный с местным политическим кандидатом. Как вспоминает Киран, парень был мелкой рыбешкой, активистом индуистского национализма, который не достиг шестизначного числа последователей Раджи Сингха на , но все равно был провокатором. По-настоящему отвратительное поведение этого человека неоднократно отмечалось модераторами низшего звена, но компания почему-то всегда оставляла его без внимания.

В этот раз все было иначе. Активист выложил в сеть видео, на котором он и его сообщники похитили человека, который, как они сообщили в камеру, убил корову. Они отвели пленника на строительную площадку и напали на него, а пользователи Facebook радостно приветствовали его в разделе комментариев.

По словам Киран, видео было удалено, а аккаунт активиста помечен на удаление. Но от мрачных мыслей о том, что человека пытают за участие в социальных сетях, было трудно избавиться. Помимо мерзости содержания, видео отражало опасения Кирана, что Facebook меняет поведение индийских пользователей в реальном мире.

За неполное десятилетие методы общения людей в Facebook способствовали нормализации высказываний, по сравнению с которыми некогда строгие законы Индии, запрещающие "разжигание вражды" между представителями разных рас, религий и каст, казались просто причудливыми. Риторика "коровьих мстителей" в Facebook все еще способна шокировать, но это, возможно, временно.

Через несколько недель Киран обнаружил, что аккаунт защитника коров был восстановлен. Они так и не узнали, почему.

"Это было время, когда наша команда испытывала острую нехватку кадров", - говорят они. "Вы не могли потратить день на то, чтобы разобраться с одним делом, потому что у вас было пятьдесят других дел, которые нужно было сделать приоритетными".

 

-

Как репортер, я рад работать с надежными источниками, независимо от их мотивов. Информация, полученная от человека, которого упрекнули в продвижении по службе, может быть не менее ценной, чем информация, полученная от осведомителя, руководствующегося совестью, и, вероятно, первых больше, чем вторых.

Идеалистов, таких как Киран, защитить сложнее. Человек, считающий, что начальник плохо с ним обращается, обычно не совершает поступков, которые еще больше вредят его личным интересам. Тот, кто пришел к выводу, что его работодатель ускоряет продвижение страны к мажоритарному насилию, гораздо более склонен к риску.

На тот момент, когда я разговаривал с Киран, я не понимал, как Facebook отслеживает активность сотрудников на Workplace, чтобы оценить их личные возможности. Они оказались невероятным источником, объясняющим как политику индийского подразделения Facebook, так и динамику развития ее продуктов за рубежом. Полученная от них информация составила основную часть двух материалов на первой полосе. Одна из них касалась внутренней работы Facebook, связанной с Баджранг Дал, молодежной группой, связанной с RSS. Члены этой организации, в которую входят тысячи местных клубов по всей Индии, заслужили репутацию сторонников насилия - от ежегодного нападения на светские пары, празднующие День святого Валентина, до убийств мусульман и христиан.

Правительство США считало Баджранг Дал боевой организацией, и Facebook тоже. Только привычка членов Баджранг Дал вести прямые трансляции актов насилия позволила легко определить эту группу как "опасную организацию".

Но Facebook бездействовал. Одна из причин заключалась в том, что, как и RSS, эта организация имела тесные отношения с BJP. Другая причина заключалась в том, что "Баджранг Дал" и ее союзники были настолько агрессивны, что служба безопасности Facebook в письменном виде заявила, что опасается их физического нападения на индийские офисы компании. Эта история иллюстрирует укоренение мажоритарного насилия в Facebook и неприкасаемость сил, стоящих за ним. Баджранг Дал нельзя было назвать "опасной организацией", потому что она была слишком опасна.