Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Возмущение было немедленным, громким и продолжительным. В течение двух месяцев генеральные прокуроры сорока четырех штатов и территорий США написали письмо в Facebook с призывом отказаться от этого плана, ссылаясь как на проблемы конфиденциальности, так и на опасения по поводу последствий для психического здоровья.

Учитывая обратную реакцию, возможно, настало время возродить Project Daisy. Facebook взяла продукт на дополнительное тестирование и остановилась на сниженной версии, которая не скрывала лайки полностью, но предлагала пользователям возможность отказаться от их просмотра.

Этот шаг был в лучшем случае скромным. Скрытие "лайков" изначально не было очень эффективным, и лишь небольшая часть пользователей в любом случае пользовалась функцией opt-in. Но в соответствии со стратегией, изложенной в презентации Цукербергу за год до этого, Моссери отправился на шоу Good Morning America, чтобы объявить об изменениях.

После того как Моссери сделал "громкое заявление", как назвала его ведущая Гейл Кинг, он объяснил, что это изменение позволит пользователям "больше сосредоточиться на людях, которые им дороги, и быть вдохновленными". Затем он рассказал зрителям о том, как включить эту функцию, если они того пожелают.

"Вы предоставили нам выбор, и мы это ценим", - заключил Кинг.

Моссери предпринял и другие усилия по продвижению изменений, в том числе провел конференц-звонок с репортерами в мае. Вернувшись домой в Окленд, я набрал номер и, когда пришло время задавать вопросы, сказал Моссери, что отложу проект "Дейзи", чтобы вместо этого спросить: что Instagram знал о способности своей платформы влиять на чувство благополучия своих пользователей?

"Это хороший вопрос", - ответил Моссери. По его словам, эффект от Instagram, скорее всего, такой же, как и от других социальных медиаплатформ: "Небольшой положительный эффект и небольшой отрицательный - но совсем небольшой".

В открытых источниках не было ничего, что могло бы опровергнуть эту самооценку, и никто не мог предположить, что платформа в ее нынешнем виде была менее чем безопасной. Но за неделю до этого я вернулся из Пуэрто-Рико, и в моем распоряжении были многолетние внутренние выводы, свидетельствующие об обратном. Хауген поделился со мной результатами исследования рисков, проведенного всего за два месяца до этого, которое показало, что Instagram надежно рекомендует контент, пропагандирующий анорексию, пользователям, которые, как ему казалось, уязвимы к нему. Это совпадало со всем, что компания знала о склонности своих рекомендательных систем направлять пользователей в сторону "горячего" контента, который она была не в состоянии контролировать.

"Мы практически ничего не делаем", - написали исследователи, отметив, что Instagram не в состоянии в настоящее время остановить себя от пропаганды недовесов и агрессивных диет. Тестовый аккаунт, проявивший интерес к контенту о расстройствах пищевого поведения, наполнился фотографиями с прорехами в бедрах и истощенными конечностями.

Посторонним было бы относительно легко задокументировать проблему. Instagram, как предупреждают авторы исследования, "сходит с рук, потому что никто не решил заняться этим".

 

-

Артуро Бежар смотрел на ситуацию с другой точки зрения, но выводы сделал те же самые. Вернувшись в Facebook в 2019 году после четырехлетнего перерыва, Бежар работал консультантом в команде по благополучию Instagram - на этот шаг его вдохновили истории его дочери-подростка о жестоком обращении на платформе. Когда-то Бежар был полон оптимизма в отношении возможностей технологий и Facebook в частности, но теперь его взгляды стали заметно мрачнее.

Будучи оригинальным "мистером Мило" в Facebook, Бежар стал пионером в подходе компании к улучшению качества обслуживания пользователей. Его команда Compassion проделала особенно новаторскую работу по борьбе с самоубийствами, создав способ, с помощью которого пользователи могли сообщать о том, что их друг на Facebook рискует нанести себе вред, направляя их сначала в соответствующие региональные кризисные центры, а если были основания для серьезного беспокойства, побуждая их отправить сообщение. Человек, который выглядел подавленным, при следующем входе в систему получал уведомление со словами: "Кто-то беспокоится о вас". Если кому-то угрожала непосредственная опасность, модераторы Facebook повышали уровень тревоги и, возможно, сообщали о ней в правоохранительные органы.

"Было несколько отдельных случаев, когда кто-то писал в Facebook, что собирается покончить с собой, а потом делал это", - вспоминает один из членов команды, занимающейся профилактикой самоубийств. Эти смерти послужили поводом для самоанализа и анализа. Иногда в ходе проверки выяснялось, что модераторы компании не справились с задачей. В других случаях пользователи не сообщали о риске. И даже когда пользователи отмечали кого-то в кризисной ситуации, время реагирования часто было медленным, потому что очереди отзывов были забиты недобросовестными сообщениями.