Издание The Washington Post опубликовало расследование, посвященное контенту, разжигающему ненависть на Facebook. Согласно информации издания, соцсеть знала об обилии таких постов в лентах пользователей в развивающихся странах, но не модерировала их.
Расследование строится на внутренних документах Facebook. Центральное место в нем занимает Индия. Издание называет индийский рынок самым большим в мире по количеству пользователей: в соцсети зарегистрированы 410 млн жителей страны. Это на 80 млн больше, чем население США, где расположена штаб-квартира компании.
The Washington Post утверждает, что индийские пользователи регулярно сталкиваются с постами, которые разжигают ненависть на религиозной почве — чаще всего в отношении мусульманского населения страны и жителей соседнего Пакистана.
По словам исследователей, в 2020 году распространение подобных сообщений совпало с прогремевшими в Дели антимусульманскими беспорядками. Тогда жертвами стали 53 человека, еще около 300 получили ранения. Индийское правительство назвало акцию спонтанной. Призывы к насилию не были удалены с площадки, говорится в расследовании.
Издание заявляет, что представители головного офиса Facebook в США были в курсе угрозы этнических столкновений в Индии из‑за публикаций на платформе. В 2018–2019 годах этой теме были посвящены несколько встреч.
Компания создавала большие аналитические группы для мониторинга обстановки во время выборов в стране, отправляла туда своих представителей, проводила опросы о качестве информации на площадке. Однако не смогла установить для индийских пользователей те же ограничения по контенту, что работают в англоязычной части платформы.
Согласно внутренним отчетам соцсети, искусственный интеллект не мог выявить проявления ненависти в постах индийских пользователей, так как алгоритмы соцсети не были обучены работать с двумя самыми распространенными языками в стране — хинди и бенгальским. Их поддержка была введена только в 2021 году.
Платформа выявила, что посты одной из индийских националистических группировок Rashtriya Swayamsevak Sangh пропагандируют ненависть. Однако ее не лишили возможности публиковать новости. The Washington Post называет группу влиятельной и указывает на ее связь с нынешним премьер-министром страны Нарендрой Моди. Во внутренних документах соцсеть мотивирует отсутствие блокировки «политическими причинами».
86% бюджета Facebook по борьбе с фейк-ньюс отдано США, притом что на этот рынок приходится меньше 10% ежедневных пользователей соцсети, сообщает The Washington Post. Оставшиеся 14% бюджета приходятся на пункт «остальной мир», куда входит и Индия.
Такая политика повлияла на сложности в модерации контента в других странах, среди которых Мьянма, Пакистан и Эфиопия. Там искусственный интеллект не распознавал упоминания пандемии коронавируса в национальных языках. На индонезийском рынке нейросеть не выявляла ссылки на фейк-ньюс.
Ожидается, что на этой неделе, с 25 по 31 октября, Facebook объявит о смене названия. Основатель платформы Марк Цукерберг заявил, что Facebook вскоре закончит развиваться по модели социальной сети и начнет работать как компания-метавселенная, активно внедряя AR- и VR-технологии. Для этого она разворачивает большую кампанию по найму разработчиков в Европе — всего планируется создать 10 тыс. рабочих мест.
Часть критиков считает, что эти шаги — попытка отстраниться от череды скандалов, в которых компания оказалась замешана в последние месяцы. В июле Джо Байден обвинил соцсеть в «убийстве людей» из‑за дезинформации о пандемии коронавируса. В сентябре стало известно, что Facebook знает о негативном влиянии Instagram на психику и самооценку подростков. В начале октября Facebook, Instagram, WhatsApp и ряд других сервисов были недоступны из‑за глобального сбоя.
Ранее соцсеть оказывалась в центре внимания из‑за призывов Дональда Трампа штурмовать Капитолий — его аккаунт был заморожен до 2023 года. Также Facebook удалял и блокировал страницы ультраконсервативных политиков и конспирологов за разжигание ненависти и публикацию фейковых новостей.