Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Хауген никогда не кусалась. Но когда в конце 2018 года с ней связался рекрутер, она сказала, что может быть заинтересована, если работа будет связана с дезинформацией и демократией. В процессе собеседования она рассказала, что ее близкий друг был радикализирован в интернете, и она хочет помочь Facebook предотвратить похожий путь для своих пользователей.

В своем сопроводительном письме она указала, что ей удавалось работать над конфиденциальными корпоративными проектами "с осторожностью".

Она начала работать в Facebook, занимаясь вопросами гражданской целостности, в июне 2019 года.

Изначально Хауген попросили создать инструменты для изучения гражданской дезинформации, не относящейся к сторонней проверке фактов Facebook. Затем, на фоне опасений, что русские распространяют дезинформацию, направленную против активистских сообществ и полицейских, ее перевели на создание системы, которая будет выявлять такую практику. Ее команде, состоящей из нее и еще четырех новых сотрудников, дали три месяца - график , который она считала неправдоподобным. Она не преуспела и получила плохую первоначальную оценку.

"Люди в Facebook добиваются того, что нужно сделать, используя гораздо меньше ресурсов, чем можно было бы предположить", - вспоминает она слова Чакрабарти. Эта фраза должна была мотивировать, но Хауген сочла ее пустым оправданием компании, которая не вкладывает достаточно средств в работу по обеспечению безопасности.

Оглядывая большую команду Integrity, она видела небольшие группы сотрудников, решающих масштабные задачи. В основной группе, отвечающей за выявление и борьбу с эксплуатацией человека человеком, которая включала в себя рабство, принудительную проституцию и продажу органов, было всего несколько следователей. "Я спрашивала, почему не нанимают больше людей", - вспоминает она. "Facebook вела себя так, словно была бессильна укомплектовать эти команды".

Нехватка ресурсов в одной из самых прибыльных компаний мира была не единственной проблемой, которую она увидела. "Меня окружали умные, добросовестные люди, которые каждый день находили способы сделать Facebook безопаснее", - говорит она. "К сожалению, безопасность и рост постоянно ставились в зависимость, и Facebook не желала жертвовать даже долей процента роста".

Хауген стала воспринимать себя и команду Civic как недоукомплектованную бригаду уборщиков. Facebook наняла группу умных и увлеченных людей для решения проблем с потенциально опасными для жизни и здоровья последствиями, но не дала им ни ресурсов, ни власти, чтобы действовать.

Хауген многое расстроило: от неспособности Facebook решить проблему торговли людьми до скрытого потворства влиятельным фигурам. Но прежде всего ее беспокоило то, что компания игнорирует опасность, которую представляет ее платформа для более бедных стран, впервые получивших доступ к интернету. По ее мнению, геноцид в Мьянме, разжигаемый социальными сетями, не был случайностью. Это был шаблон. Facebook постоянно повышал температуру общественных дискуссий. Если компания не изменит курс, ее продукты убьют много людей.

Многие коллеги Хаугена пришли к аналогичному выводу. Сотрудники Integrity, чьи проекты блокировались, иногда говорили о "стрессе" и "выгорании", прежде чем в конце концов решали уйти из компании . Хауген пришла к выводу, что жаргон "белых воротничков" не соответствует их состоянию. Она начала думать о том, что работа Facebook по обеспечению честности и неподкупности приводит к моральным травмам - термин, придуманный американскими психологами для описания набора симптомов, похожих на посттравматическое стрессовое расстройство, которые испытывают ветераны Вьетнамской войны, ставшие участниками чего-то, что предало их глубокие убеждения.

Хауген не хотела себя так чувствовать и понимала, что она не настолько крупная рыба, чтобы добиться чего-то, просто наплевав на компанию по пути к выходу. Кроме того, ее не впечатляло качество общественной дискуссии вокруг компаний, работающих в социальных сетях. Тысячи статей были написаны о том, должен ли Facebook удалять определенные посты, следует ли его разделить, предвзято ли он относится к консерваторам или нет. Но на самом деле, по ее мнению, важна была механика работы Facebook. Компания создала свою платформу таким образом, что она по своей сути была подстрекательской, нестабильной и склонной к манипуляциям. Люди за пределами компании должны были знать подробности.

 

-

В середине декабря 2020 года я поехал в региональный парк Редвуд в Оклендских холмах. День выдался погожим, но Хауген вышла из машины в тяжелой куртке, флисе, перчатках, леггинсах и теплых сапогах на лодыжках. Пока мимо проходили бегуны в шортах, Хауген рассказала мне историю своего нервного расстройства. Даже легкое похолодание означало несколько часов мучительной боли.

Хауген написал мне сообщение в зашифрованном приложении для обмена сообщениями вечером того дня, когда было проведено общее собрание, на котором было объявлено о ликвидации Civic.