Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Одним из ранних проектов Барнса было изучение того, как предотвратить распространение гражданских мистификаций. Подавление ссылок на известные, проверенные факты было простым делом, но почему-то контрмеры не работали. Аналитик из команды Барнса выяснил, почему: они распространялись через пересылки в Messenger, как и мистификации в Facebook. Вирусная дезинформация не нуждалась в помощи рекомендаций Facebook, чтобы взорваться. Все, что требовалось от Facebook, - это снизить планку для распространения информации настолько, чтобы неопытные пользователи стали спамить своих друзей.

Барнс предпринял вторую попытку уничтожить пересылку сообщений, на этот раз во имя хорошо информированной общественности. Он и Чакрабарти связались с Site Integrity, командой инженеров, которая боролась с порноаккаунтами и поддельной рекламой Ray-Ban, и утверждали, что пересылка сообщений способствует распространению спама, а к этой проблеме Site Integrity относилась несерьезно (группа Workplace, посвященная борьбе со спамом, называлась "Убей его огнем").

Хотя Site Integrity не могла отменить функцию Messenger, у них были полномочия ограничить интенсивность ее использования, чтобы ограничить вред, который могут нанести активные распространители фальшивых новостей. Инженеры двух команд совместно написали код, протестировали его, чтобы доказать, что он сокращает количество спама, и затем отправили его.

С командой Messenger Growth намеренно не советовались. "Мы изменили их продукт, не сказав им об этом", - вспоминает Барнс, ухмыляясь.

Через несколько дней сотрудники Messenger Growth позвали Барнса и Каушика Айера, главу Civic Engineering и коллегу Самидха Чакрабарти, в конференц-зал. Они поняли, что сделала Civic, и это вредило их показателям использования. Они потребовали, чтобы Civic отменила ограничения на отправку сообщений.

Айер, обладающий мягким характером, сказал, что понимает обеспокоенность команды Messenger. Но Civic пришла к выводу, что беспрепятственная пересылка сообщений создает как проблему спама, так и угрозу демократическому процессу, поэтому, к сожалению, ограничение скорости останется в силе.

"Если вы хотите, чтобы Цук проанализировал ситуацию, я выкрою время в его календаре", - сказал Айер, который после восьми лет работы в команде Facebook Engineering мог с полным правом утверждать, что назначил генеральному директору короткую встречу для решения спора.

Это было не столько предложение, сколько вызов. Если бы сотрудники Messenger заставили провести встречу, им пришлось бы приводить аргументы в пользу разрешения сообщений, которые команда Site Integrity уже определила как спам, что означало бы признание того, что команда поощряла мусорные сообщения, чтобы играть с целевыми показателями использования.

Команда разработчиков Messenger Growth закрылась. Им пришлось искать другой способ увеличить количество отправлений.

Этот смелый маневр стал той историей, над которой инженеры Facebook по всей компании могли бы посмеяться за кружкой пива. Сведение работы постоянно растущего числа команд по разработке продуктов и инженеров к одному приложению гарантировало множество склок с нулевой суммой, и Айер только что обошел своих оппонентов. Отличительной особенностью этой версии истории было то, что в конфликтах с Growth обычно побеждала не команда Civic. Победа во многом была обусловлена поддержкой Site Integrity, но это все равно была победа.

Глава 8

Кэти Харбат из команды Politics and Government готовилась к промежуточным выборам 2018 года, и у нее было много дел. Ее команда по выборам едва избежала расформирования после 2016 года, и теперь она уже не оказывала прежней поддержки кампаниям, которые заслужили похвалу и вину за победу Трампа. Теперь, при штате в шестьдесят человек, она отвечала за разработку, разъяснение и устранение неполадок в правилах платформы для кампаний.

Харбат проводила все больше времени, общаясь с Civic. Она проявляла особый интерес к CORGI - системе, которую команда и Core Data Science создавали со второй половины 2017 года для выявления аккаунтов, работающих в тесной координации или управляемых централизованно.

В основе CORGI (буква "C" означает "coordinated", а остальные буквы - то, что не могут вспомнить даже самые преданные пользователи) лежала идея о том, что, какими бы изощренными ни были попытки манипулировать платформой, они неизменно показывают свою руку. Иногда это было очевидно, например, когда сотни аккаунтов-единомышленников использовали один и тот же IP-адрес и были созданы в течение тридцати секунд. В других случаях промахи были незаметны: взаимодействие аккаунтов было слишком надежным, формулировки их постов - слишком похожими. CORGI - это милое название автоматизированного способа выявления таких закономерностей.