Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Чакрабарти с энтузиазмом смотрел на будущее демократии и интернета. После запуска значка избирателя он сказал репортерам и сотрудникам: "Меня всегда восхищало то, как интернет помогает гражданам иметь голос, как никогда раньше". Он сказал коллегам, что пришел в Facebook из-за приверженности компании как к работе с гражданским обществом , так и к самообразованию. Если Google не желала выходить за рамки регистрации избирателей и напоминания о том, что сегодня день выборов, то Facebook хотела показать, что ее "подталкивания" к голосованию оказывают статистически значимое влияние на явку, а затем найти новые способы продемонстрировать растущую роль компании в политике.

На этом фронте было много работы. Программу регистрации избирателей Facebook можно было усовершенствовать. Компания размышляла над возможными форматами проведения онлайн-омбудсменов и хотела создать больше функций для организации гражданского общества. В преддверии следующих выборов команда выпустила тщательно протестированную функцию "Предварительный просмотр бюллетеня", которая на 6 % повысила осведомленность избирателей о кампаниях и избирательных инициативах.

Чтобы направить работу, Чакрабарти и его команда составили список из шести принципов - неформальную "гражданскую клятву". Он гласил: "Будь бескорыстным, будь защитным, будь справедливым, будь представительным, будь конструктивным, будь сознательным". Эти призывы могли бы напомнить директивы из строительной бумаги, прикрепленные к стене в начальной школе, но даже в те оптимистичные дни они были сформулированы с некоторым укором.

"Быть бескорыстными" означало, что команда должна "в первую очередь служить интересам людей, а не интересам Facebook". "Быть конструктивными" означало, что команда должна развивать эмпатию и минимизировать остроту в общественной сфере. А "Быть сознательным" - это призыв документировать, как Facebook делает мир лучше и хуже.

Те, кто присоединялся к Civic, как правило, были либералами. Это не было демографически удивительным для компании в целом. От штаб-квартиры Facebook в Менло-Парке до ближайшего округа, проголосовавшего за Трампа, два часа езды, а федеральные отчеты о сборе средств показывают, что сотрудники компании отдают предпочтение демократам семь к одному. Но, скорее всего, перекос был еще больше среди тех, кого привлекала работа над темами, связанными с дезинформацией, иностранным вмешательством и политикой. Это было, безусловно, неловко, учитывая, что компания обязалась быть беспартийной. Команда состояла из либералов, которые были обязаны быть нейтральными.

На встречах каждые полгода Чакрабарти вручал награды, прозванные "Civvies", сотрудникам, чья работа служила примером самопровозглашенной миссии команды. Среди искренних ботаников от политики, привлеченных в команду, награды были в меру значимым событием, почти наравне с обзорами "Цикла подведения итогов работы", которые определяли премии сотрудников Facebook. За пределами команды это никого не волновало.

Хотя ценности Civic признавали возможность того, что Facebook может стать силой зла, в начале своей деятельности команда была сосредоточена на плюсах. Чтобы помочь людям более эффективно использовать платформу для политической активности, нужно было понять, как они ее уже используют, и в начале 2016 года несколько сотрудников начали изучать успешные страницы и группы активистов, чтобы понять, какой подход является выигрышным.

Результаты оказались не слишком приятными. Самые популярные американские политические группы на Facebook не были американскими, и они точно не были мотивированы страстью к демократии. Civic нашел македонцев задолго до того, как иностранные фермы троллей стали предметом общественного беспокойства.

В апреле 2016 года один из тех же сотрудников проделал еще одну работу, проанализировав наиболее успешные немецкие политические группы на платформе. Она обнаружила, что треть из них регулярно размещала контент расистского и конспирологического характера, а также, как ни странно, пророссийского. Это было плохо, но еще хуже было то, что рост этих групп в значительной степени зависел от предложений Facebook "Группы, в которые вам стоит вступить" и "Откройте для себя". И македонские страницы, и немецкие экстремистские группы были не только велики на платформе; своим ростом они были обязаны собственной механике Facebook.

"Шестьдесят четыре процента всех вступлений в экстремистские группы происходят благодаря нашим рекомендательным инструментам", - написала исследовательница в примечании к своим выводам. "Наши рекомендательные системы порождают проблему".