Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Никто не был настолько наивен, чтобы думать, что это не может вызвать споров или что этой функцией не будут злоупотреблять. В разговоре с Адамом Моссери один из инженеров спросил, как компания будет реагировать, например, на мистифицированные "развенчания" рукотворного глобального потепления, которые были популярны среди американских правых. Моссери признал, что с изменением климата будет сложно, но сказал, что это не повод останавливаться: "Вы выбираете самый сложный случай - большинство из них окажутся не такими уж сложными".

Компания Facebook без лишнего шума обнародовала информацию о своей работе по борьбе с ложью, сделав заявление, в котором точно отметила, что пользователи достоверно сообщают о ложных новостях. При этом было упущено, что пользователи также сообщают о ложных новостях, которые им не нравятся, независимо от их точности.

Чтобы остановить поток ложных срабатываний, инженеры Facebook придумали обходной путь: "белый список" доверенных издателей. Такие безопасные списки широко распространены в цифровой рекламе, позволяя, например, ювелирам покупать заранее разрешенную рекламу на множестве авторитетных свадебных сайтов, исключая при этом такие домены, как www.wedddings.com. Белые списки Facebook были примерно такими же: они составили щедрый список признанных новостных сайтов, чьи материалы будут рассматриваться как не подлежащие сомнению.

Решение было нелепым и могло поставить в невыгодное положение малоизвестные издательства, специализирующиеся на фактических, но неоднозначных материалах. Тем не менее оно эффективно снижало успех ложных вирусных новостей в Facebook. Так было до тех пор, пока компания не столкнулась с обвинениями в предвзятости в отношении Trending Topics. Тогда Facebook упреждающе отключил эту функцию.

Отключение защиты Facebook от мистификаций стало одной из причин резкого роста фальшивых новостей осенью 2016 года. До президентских выборов оставались считанные месяцы, а руководство Facebook уже сняло ногу с тормоза.

"Все это стало прямым следствием того, что СМИ сосредоточились на трендовых историях", - отметил сотрудник, составляющий рейтинг ленты новостей. "Это привело к ужасному слепому пятну".

Глава 4

Федеральное бюро расследований хотело встретиться с Джеймсом Барнсом и его адвокатами на парковке отеля Holiday Inn в Вашингтоне.

Подъехал черный городской автомобиль с двумя мужчинами на переднем сиденье, которые велели Барнсу сесть посередине, между двумя его адвокатами, предоставленными Facebook. Затем они отвезли его в неприметное офисное здание, где проходило расследование Роберта Мюллера о вмешательстве России в выборы 2016 года. Наверху мужчины приступили к допросу. Они хотели знать, есть ли русские в офисе в Сан-Антонио.

"Вы, ребята, должно быть, шутите, - ответил Барнс.

"Хорошо, но вы же знаете, что мы должны были спросить", - ответил агент.

Мюллер вел расследование о возможном российском вмешательстве в выборы Трампа с мая 2017 года, когда в стране появились сообщения о контактах между окружением Трампа и российскими чиновниками, а также попытки понять, как такой человек, как Трамп, мог попасть в Белый дом.

Первое предупреждение о том, что Россия пытается вмешаться в предстоящие выборы, Facebook получил в 2015 году, как и другие крупные технологические компании. Но основное внимание уделялось тому, что русские могут сделать с платформами социальных сетей, а не риску того, что они станут на них популярны. Репортеры, в том числе Адриан Чен из New York Times Magazine, писали о "ферме троллей" под названием "Агентство интернет-исследований", базировавшейся в Санкт-Петербурге, но никому в Facebook не приходило в голову, что группа злонамеренных иностранных пользователей может запустить масштабную манипуляцию в социальной сети с 2 миллиардами пользователей.

Компания была не одинока. Правительство было сосредоточено на перспективе того, что русские попытаются испортить результаты выборов, а не склонить избирателей. "Идея применения операций влияния в интернете и социальных сетях в 2016 году не была сосредоточена на этом", - говорит Натаниэль Глейшер, бывший директор по политике кибербезопасности Агентства национальной безопасности, который в начале 2018 года перешел в Facebook на должность главы отдела политики кибербезопасности.