Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets

Статья вышла 14 сентября под заголовком "Facebook знал, что Instagram токсичен для девочек-подростков, свидетельствуют документы компании". Некоторые из приведенных голосов принадлежали врачам, лечившим молодых женщин от расстройств пищевого поведения, которые чувствовали, что Instagram может дестабилизировать их пациентов, но самыми заметными были голоса самих молодых женщин. В начале статьи рассказывалось об Анастасии Власовой, теннисистке из средней школы, у которой развилось расстройство пищевого поведения после того, как она начала пытаться подражать нелепым ограничительным диетам, которые пропагандировали фитнес-индустрии в Instagram.

Опыт Власовой - это худший сценарий, описанный в исследовании команды Well-Being: человек, чьи личные уязвимости были использованы персонализированным контентом. К ее рассказам прилагались цитаты, взятые у подростков, участвовавших в исследовании пользовательского опыта Instagram.

"После просмотра фотографий в Instagram "мне кажется, что я слишком большая и недостаточно красивая", - рассказала одна девушка исследователям компании. Это заставляет меня чувствовать себя неуверенно по отношению к своему телу, хотя я знаю, что я худая". "

В своем публичном ответе компания придерживалась примирительного тона. " Мы поддерживаем это исследование", - написала Карина Ньютон, руководитель отдела публичной политики Instagram, в блоге Instagram после публикации статьи. По ее словам, журнал сосредоточился на "ограниченном наборе результатов" и представил их в чрезмерно "негативном свете", но результаты исследования были реальными. Instagram может дать возможность высказаться маргиналам, объединить людей и стимулировать социальные изменения, - написала она, - но мы также знаем, что он может быть местом, где люди получают негативный опыт, о чем сегодня рассказал журнал".

Реакция общественности зашкаливала - эта история занимала, кажется, все новостные выпуски и интернет-пространство.

Через два дня после публикации Моссери выступил в подкасте Recode на канале Vox, чтобы рассказать об этой истории. Он обвинил Journal в том, что компания не получила достаточной оценки за свои усилия по пониманию и решению проблемы. " Я пристрастен, очевидно, что с моей точки зрения статья в значительной степени односторонняя, но я понимаю, к чему они клонят, и не хочу спорить", - сказал он. Затем он сказал, что за преимущества социальных сетей приходится платить, сравнив этот компромисс с тем, что предлагают автомобили.

"Мы знаем, что в результате автомобильных аварий погибает больше людей, чем в противном случае, но в целом автомобили создают гораздо больше ценностей в мире, чем разрушают", - говорит Моссери. "И я думаю, что социальные сети похожи на это".

Это было удивительно уважительно с точки зрения ответных действий. Глава Instagram признал, что его продукт может нанести вред.

В Интернете реакция была иной. " Instagram Chief Takes Heat for Bizarre Analogy Defending Social Media", - пишет New York Post, одно из многих изданий, которое приводит список пикантных твитов от репортеров и технических критиков, обвиняющих его в бесцеремонности.

Моссери сам зашел в Twitter, чтобы пожаловаться на количество репортеров, которые свалили на его "по общему признанию, не слишком удачное" сравнение между социальными сетями и автомобилями. "Культура заголовков, которой, да, я знаю, способствовали социальные сети, утомляет", - написал он. Недовольство Моссери прозвучало через день после того, как журнал опубликовал третий материал из этой серии, посвященный тому, как рекомендации контента Facebook направляют пользователей на все более злобный, графический и расстраивающий контент. Эта динамика усугубилась в связи с переходом компании на "Значимые социальные взаимодействия", но это было лишь частью того, как обычно работают системы рекомендаций контента.

Twitter тоже опирался на подобную систему. И, как только что заметил Моссери, эта платформа была идеальной средой для его клоунады.

" Босс Instagram говорит, что социальные сети похожи на автомобили: Люди будут умирать", - написал Mashable в своем обзоре откликов. Заголовок был идеальным - и он подтверждал правоту Моссери. Попытки говорить об этих вещах с некоторой долей искренности ни к чему не привели.

Я наблюдал за разворачивающейся драмой и думал о месяцах, которые я провел, глядя на документы Facebook, иллюстрирующие происходящее на моих глазах. Тот же самый базовый дизайн, который был оптимизирован для того, чтобы подталкивать людей к твитам, оскорбляющим Моссери, ничем не отличался от того, который продвигал посты в Facebook, утверждающие, что выборы были украдены, или аккаунты в Instagram, демонстрирующие опасно худых влиятельных лиц.

Математика, лежащая в основе этих систем, была сложной, а результаты - грубыми. Они брали человеческие недостатки и поощряли их. Платформы продвигали то, что, скорее всего, вызовет интерес у пользователей, а затем создатели контента реагировали на эти стимулы. В тот момент все социальные сети казались ядом.

 

-