Facebook утверждает, что все пользователи платформы имеют равные права. Но это не совсем так. Внутренние документы компании доказывают, что около шести миллионов пользователей Facebook и Instagram — политики, звезды шоу-бизнеса, журналисты и даже животные — имеют особые условия. Их публикации модерируют отдельно, с помощью специальной системы XCheck, и часто не удаляют, даже если они нарушают стандарты. Например, содержат призывы к насилию или порнографический контент.
«Бабель» коротко пересказывает резонансное расследование The Wall Street Journal о выборочной модерации в Facebook.
Марк Цукерберг неоднократно говорил, что Facebook позволяет обычным пользователям общаться наравне с известными политиками, деятелями культуры и журналистами. Публикации большинства пользователей Facebook компания регулирует с помощью автоматизированной системы, которая определяет, нарушает ли тот или иной пост гайдлайны, а также с помощью модераторов-людей. Иногда автоматизированная система может удалить пост еще до того, как его просмотрит живой модератор, и пользователь не может с этим ничего поделать.
В случае c VIP-пользователями все иначе — за их контент отвечает система XCheck. Она помогает минимизировать то, что в компании называют PR fires — негативное внимание СМИ, которое возникает, когда компания ошибается в модерации влиятельных аккаунтов.
Сейчас система занимается аккаунтами около 6 миллионов человек из 2,8 миллиарда всех пользователей Facebook. Попасть в «элитный» список непросто. Для этого нужно соответствовать определенным критериям — быть ньюсмейкером, популярным или влиятельным человеком, конфликт с которым может стать проблемой для Facebook.
Список VIP-пользователей не разглашается. В него входят известные политики, звезды шоу-бизнеса, журналисты и даже онлайн-персонажи — животные-инфлюенсеры вроде Doug the Pug.
Чтобы минимизировать ошибки в модерации, XCheck защищает «элитных» пользователей от автоматического удаления публикаций. Каждую отдельную «жалобу» рассматривают люди. Во внутренних документах компании отмечается, что когда система работает корректно, это позволяет «принимать взвешенные решения». Однако, на практике работа XCheck далека от идеала.
Одна из главных проблем заключается в том, что деятельность системы никак не регулируется. К ней причастны разные люди из разных отделов компании. Добавлять новых пользователей в систему XCheck может любой модератор Facebook. Поэтому противоправные публикации людей, которые входят в список избранных, часто остаются на платформе часами или вообще не модерируются.
Один из акаунтов, которыми занимается XCheck — аккаунт бразильского футболиста Неймара. В Instagram на него подписаны более 160 миллионов человек. В 2019 году футболист попал в скандал — женщина обвинила Неймара в домогательствах. Чтобы оправдать себя, Неймар опубликовал в Facebook и Instagram видео, в которых показал их переписку. Среди сообщений были обнаженные фото женщины.
Стандартная процедура Facebook, когда кто-то публикует интимные фото — немедленно их удалить. Однако Неймар входил в «элитный» список, поэтому публикация оставалась на платформах более суток. Ее успели увидеть 59 миллионов пользователей, шесть тысяч — сделали репосты. В конце концов, публикацию убрали. В то время как аккаунт простого пользователя за подобное нарушение удалили бы, страницу Неймара никто не трогал.
Аккаунт Дональда Трампа — до того, как его заблокировали на два года в июне 2021-го — также входил в перечень страниц XCheck. В мае 2020 года Трамп, комментируя протесты в Миннеаполисе, опубликовал пост, в котором сказал, что «когда начинается мародерство, начинается стрельба».
Автоматизированная система Facebook расценила сообщение как призывающее к насилию. Но на модерацию аккаунтов знаменитостей часто влияют старшие руководители компании. В ситуацию вмешался Марк Цукерберг — он лично решил оставить пост на платформе.
Все это вызывает немало обсуждений внутри Facebook. Сотрудники считают, что такая избирательность — неправильная. В прошлом году компания опубликовала внутренний отчет, в котором признала, что модерирует лишь 10 процентов контента от знаменитостей.
В ответ на это Самид Чакрабарти, курирующий в компании взаимодействие с общественностью, написал: «Одна из главных причин, почему я присоединился к FB, потому что верил в его потенциал быть демократической силой, которая дает всем равные права на высказывания. То, что у нас разные правила для разных людей, меня очень тревожит».
Другие сотрудники также говорили, что такая практика противоречит ценностям Facebook. «Отделите политику в отношении контента от пиара», — советовал в отчете от июня 2020 года Каушик Айер, глава группы по вопросам общественной добродетели Facebook.
Чтобы разрешить ситуацию, компания разработала план улучшения XCheck. Согласно ему, иммунитет знаменитостей к нарушениям правил должны были отменить в первой половине 2021 года. Однако, взять ситуацию под контроль не так просто.
«VIP-списки продолжают увеличиваться», — написала в марте в письме к сотрудникам продакт-менеджер команды Facebook по предотвращению ошибок. Она предложила запретить работникам компании добавлять в XCheck новых VIP-пользователей, однако подчеркнула, что заставить влиятельных людей придерживаться тех же стандартов, что и все остальные, невозможно. У Facebook просто нет систем, способных на «достаточно тщательную проверку».
Пока же сотрудники компании вынуждены модерировать аккаунты знаменитостей собственноручно. А проверяя публикации — исходить из того, что знаменитости имели добрые намерения, и склоняться к их невиновности.
