Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Ранжирование было не единственным рычагом, доступным команде Макнелли. Они создали ярлыки для проверки фактов, которые занимали физическое пространство, отведенное для ложного сообщения, тем самым лишая его внимания при прокрутке пользователем. А для того, чтобы дать фактологам Facebook небольшую фору в борьбе с вирусными ложными новостями, они создали классификатор, который проверял комментарии на предмет распространенных проявлений неверия, отдавая предпочтение постам с высоким процентом скептических комментариев.

Другие социальные медиаплатформы, такие как YouTube и Twitter, применяли аналогичную тактику, но Facebook, пожалуй, двигался быстрее всех и, безусловно, был самым прозрачным. В течение 2017 года были запущены десятки различных инициатив.

Макнелли научился преодолевать внутренние препятствия, но иногда угрозы для работы с дезинформацией исходили извне компании. Один из агрессивных подходов к борьбе с дезинформацией заключался в том, чтобы просто отделить новости от ленты пользователей, поместив их в отдельную вкладку, которая выполняла бы роль своеобразного карантина. Если раньше Facebook стремился расширить распространение новостей, пытаясь противостоять Twitter, то теперь он пытается их сократить. Как и в случае с большинством крупных изменений в дизайне, Facebook протестировал отдельную вкладку новостей на нескольких небольших рынках, включая Боливию, Камбоджу и Сербию.

Тест, проведенный в конце 2017 года, привел к падению потребления новостей на платформе и разозлил издателей. Ссылаясь на падение трафика легального боливийского новостного издания, которое полагалось на Facebook, New York Times обвинила Facebook в превращении страны в "подопытного кролика в постоянном стремлении компании изобрести себя заново".

После резкой критики со стороны как старых, так и начинающих цифровых издателей Facebook отменил эксперимент. Ирония была близка к поверхности. Издатели новостей обвиняли Facebook в деградации всей новостной экосистемы. Но когда компания предприняла шаг, который уменьшил бы ее роль в распространении новостей, издатели закричали.

"То, что внешний мир хочет от Facebook, противоречиво и не может быть удовлетворено", - сказал Макнелли.

Возможно, идею с вкладкой новостей можно было объяснить лучше, а может быть, это был просто неправильный подход. Но каждый раз, когда подобное предложение с благими намерениями разлеталось в пух и прах, люди, работающие над дезинформацией, теряли немного позиций. В отсутствие последовательных, согласованных требований со стороны внешнего мира , Facebook всегда возвращался к логике максимизации собственных показателей использования.

"Если что-то не будет хорошо выглядеть, когда это попадет в основные СМИ, они могут колебаться, стоит ли это делать", - говорит Макнелли. "В других случаях нам советовали делать меньшие шаги и посмотреть, заметит ли кто-нибудь. Ошибки всегда были на стороне того, чтобы делать меньше".

Хотя Макнелли добился определенного успеха, заставив компанию обратить внимание не только на то, чем занимались пользователи, но и на то, что им было нужно. Нигде его команда не столкнулась с ними так явно, как в попытке создать новую метрику, известную как "Широкое доверие".

В течение многих лет команда компании по партнерству с медиа пыталась придумать, как склонить чашу весов Facebook в сторону крупных уважаемых издательств и отвлечься от заезжих цифровых новостных источников, которые регулярно их опережали. Команда Partnerships предлагала просто дать мейнстримным изданиям преимущество - например, повысить их рейтинг в ленте. Эта идея была сразу же отклонена. Facebook был не более заинтересован в оценке качества, чем в оценке фактов.

Макнелли увидел возможность выйти на аналогичную территорию таким образом, чтобы компания не выбирала фаворитов. Вместо того чтобы отдавать предпочтение надежным изданиям перед случайными новичками, платформа могла бы дать преимущество источникам, которым доверяют сами пользователи.

Как бы ни привлекал людей контент сомнительных издательств на Facebook, они редко искали материалы вне платформы или даже знали, откуда они взялись. Если пользователь замечал, что новость, которой поделился его друг, поступила от доселе неизвестного издания вроде "The Boston Inquirer" - информация, которую интерфейс Facebook практически не подчеркивал, - он становился более скептичным и с меньшей вероятностью делился ею. На данный момент Facebook не учитывает предпочтение известных надежных источников.