Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

А Сэм Шехнер и Эмили Глейзер изучали, как активисты так эффективно распространяли необоснованные сомнения в вакцине COVID, что Facebook пришлось повторно ввести меры "Разбей стекло" в мае 2021 года - в третий раз за последние полгода в США.

Я участвовал во всех этих историях, но основное время уделил двум: раскрытию существования XCheck, программы Facebook по предоставлению преференций VIP-пользователям, а также изучению ее реакции на 6 января.

В Пуэрто-Рико мы с Хаугеном обсуждали достоинства того, чтобы публиковал эти истории медленно, выпуская по одной проклятой статье каждую неделю в течение нескольких месяцев, уделяя сложным вопросам каждой истории то внимание, которого они заслуживают. У старших редакторов "Журнала", что неудивительно, были другие идеи. Они хотели, чтобы истории публиковались ежедневно, занимая доминирующее положение в недельном выпуске новостей о технологиях, и таким образом можно было бы наглядно продемонстрировать, что проект является чем-то выдающимся.

Хауген была категорически против этой идеи, но ей не дали высказаться. А вот я высказался, и я разделил ее мнение. Я пренебрежительно назвал предложенное расписание "Неделей акул", в честь известной своей беззастенчивостью хватки рейтингов канала Discovery. Оказывается, у меня тоже не было права голоса.

Статья XCheck, опубликованная под заголовком "Facebook утверждает, что его правила применяются ко всем. Документы компании раскрывают секретную элиту, которая освобождена от них", вышла 13 сентября, положив начало серии материалов, которая привлечет внимание Конгресса и обычных пользователей, раскрывая внутреннюю работу и обсуждения компании, которая прилагала все усилия, чтобы избежать детального изучения. Выбор в пользу истории о XCheck был сделан намеренно. В отличие от некоторых других историй, эта не требовала объяснения чего-либо технического - систем рекомендации контента, классификаторов, механики вирусности. Суть заключалась в том, что Facebook заявила, что относится ко всем одинаково, а на самом деле это не так.

Но это было нелегко. С октября 2020 года Facebook работал под руководством Надзорного совета - органа, который должен был служить своего рода независимым апелляционным судом для решений компании о модерации. На практике полномочия совета ограничивались в основном вынесением соломоновых решений по отдельным постам в социальных сетях.

Решение Facebook отстранить Трампа от работы на неопределенный срок после 6 января было как никогда кстати, и компания попросила совет директоров высказать свое мнение. 4 мая совет вынес свое решение: решение о приостановке деятельности Трампа было оправданным, но то, как Facebook принимал это решение, было нечистым беспорядком, не соответствующим никакой видимой процедуре. Совет сообщил Facebook, что у него есть шесть месяцев, чтобы придумать соразмерный ответ, а именно установить временные ограничения на отстранение.

Совет также воспользовался возможностью засыпать компанию вопросами о том, как она справляется с проступками общественных деятелей. Среди них - требование к Facebook объяснить программу, известную как "перекрестная проверка".

Мы с Хаугеном в то время были в Пуэрто-Рико, и это упоминание привлекло наше внимание. Мы были по колено в язвительных документах, объявляющих XCheck крушением поезда. Документы свидетельствовали о том, что Facebook знала о своей проблеме. Неоднократные внутренние проверки показали, что защита VIP-персон была опасной, неоправданной и неумело управляемой. Согласно документам, компания ошибочно предоставляла защиту "недобросовестным аккаунтам" и "постоянным нарушителям" своих правил.

Документы также раскрывают, как Civic пыталась устранить недостатки программы. В ответ на призыв Чакрабарти в июне 2020 года предложить "большие идеи" о том, как сделать платформу более справедливой, один из инженеров Civic утверждал, что Facebook должен публично объявить о неудачах XCheck, а также о том, какие общественные деятели пользуются ее защитой.

"Он достаточно большой для тебя, Самидх?" - написал инженер, добавив подмигивающий эмодзи.

Чакрабарти подключил к обсуждению менеджера, который отвечал за исправление XCheck. Менеджер признал ужасное состояние программы, но сказал, что "бизнес-риск" раскрытия неудач XCheck был бы слишком велик. Лучшее, что могла сделать компания, - это попытаться навести порядок в частном порядке.

В качестве материала для новостного сюжета программа XCheck содержала практически все, что только мог потребовать репортер. Поведение Facebook было не просто неоправданным - оно было неоправданным по собственному документальному признанию компании. Цукерберг, Моника Бикерт и другие руководители долгое время обещали относиться ко всем пользователям одинаково, но это были лишь разговоры. Вместо того чтобы бросить вызов элите общества, Facebook покорно подчинилась ей. XCheck, как показала собственная проверка компании, стал "предательством" по отношению к 3 миллиардам пользователей.