Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Команде Гомеса-Урибе не поручалось работать над проблемой российского вмешательства, но один из его подчиненных заметил нечто необычное: некоторые из самых гиперактивных аккаунтов, казалось, полностью уходили в темноту в определенные дни года. Оказалось, что время их простоя совпадает со списком государственных праздников в Российской Федерации.

"В России уважают праздники?" - вспоминает он. "Неужели мы все такие тупые?"

Но пользователям не обязательно быть иностранными троллями, чтобы продвигать проблемные посты. Анализ, проведенный командой Гомеса-Урибе, показал, что класс влиятельных пользователей Facebook, как правило, предпочитает более современный контент, и они более склонны к крайним пристрастиям. Кроме того, они были более плодовиты - они ставили лайки, комментировали и перепощивали гораздо больше контента, чем обычные пользователи. Эти аккаунты были исключением из правил, но поскольку Facebook рекомендовал контент на основе совокупных сигналов вовлеченности, они оказывали огромное влияние на рекомендации. Если Facebook и был демократией, то такой, в которой каждый мог голосовать когда угодно и как угодно.

После работы в Netflix и Google - обе компании ограничивали степень влияния отдельного пользователя на рекомендации - подход Facebook показался Гомес-Урибе странным. Netflix никогда бы не создал алгоритм, который позволил бы человеку, смотрящему восемьдесят часов телевизора каждую неделю, в десять раз больше влиять на рекомендации, чем тому, кто смотрит восемь. Netflix не имеет ничего против просмотра телепередач, но идея о том, что все просмотры равны, была в корне искажена.

Поэтому команда Гомеса-Урибе предложила большое, но простое решение. Facebook перестроит алгоритм новостной ленты, чтобы ограничить влияние гиперактивных пользователей. Платформа по-прежнему будет учитывать их вовлеченность, но чем больше они будут вовлечены, тем меньший вес в рекомендациях Facebook будет придаваться каждому дополнительному действию. Для этого пришлось бы изменить математику подсчета вовлеченности каждой страницы, группы и комментария. По словам Гомеса-Урибе, для перестройки системы потребуется около двадцати человек, а после завершения работы News Feed придется заново обучать, чтобы ускорить многолетние усилия по оптимизации. Это будет не маленькая задача, именно тот амбициозный проект, который, как заверили Гомеса-Урибе, он сможет реализовать.

Несмотря на требуемую работу, идея сразу же понравилась многим руководителям высшего звена, работавшим в других крупных технологических компаниях. Среди тех, кто поддержал ее, был Киньонеро, ведущий инженер компании по прикладному машинному обучению. "Существует закон Вселенной, согласно которому 90 процентов кликов должны исходить от менее чем 10 процентов пользователей, а это дает непропорционально большое влияние небольшому числу людей, обладающих властью", - сказал Киньонеро. "Это дизайнерское решение, и единственный способ решить его - глубоко переосмыслить сами метрики".

Но достоинства изменений не казались столь очевидными руководителям отдела ленты новостей Джону Хегеману и Ларсу Бэкстрому, которые практически всю свою карьеру посвятили культуре роста и оптимизации Facebook. Если некоторые пользователи с огромным энтузиазмом делятся контентом и взаимодействуют с другими пользователями, зачем Facebook отключать их?

Просьба Гомеса-Урибе была отклонена. Поэтому он поступил практически так же, как и в Netflix, - делал все сам, пока руководство не прозрело.

Из-за нехватки ресурсов Гомес-Урибе был вынужден ограничить свои амбиции в отношении капитального ремонта. С помощью добровольцев из команды Facebook Core Data Science сотрудники Гомеса-Урибе разработали быструю и грязную версию его первоначального плана. Вместо того чтобы перестраивать News Feed, чтобы дать более спокойным пользователям больше права голоса, они просто наложили последнее уравнение на конечный результат существующего алгоритма, рекомендующего новостные материалы. Уменьшив распространение контента, непропорционально популярного среди гиперактивных пользователей, платформа снизила бы количество людей, отчаянно пытающихся сделать Facebook своим личным мегафоном. Такой подход не был идеальным, но он работал.

Поскольку гиперактивные пользователи, как правило, более пристрастны и более склонны делиться дезинформацией, разжиганием ненависти и кликушеством, вмешательство привело к повышению целостности почти по всем направлениям. Анализ того, как вмешательство повлияет на распространение поляризованного контента в США, показал, что оно сильно ударит по ультраправым и ультралевым изданиям и немного увеличит распространение новостей основных издателей.

Учитывая, что американская экосистема консервативных издателей намного больше, чем левая, можно было не сомневаться, что просмотры контента, популярного среди республиканцев, упадут сильнее. Но этот вывод не подтвердился во всем мире - например, в Венесуэле изменения в итоге сказались на доминирующих в Facebook левых в большей степени, чем на их оппонентах.