30 сентября в комитете сената США по защите прав потребителей прошли слушания с участием руководителя отдела безопасности компании Facebook Антигоны Дэвис, которой пришлось отвечать на вопросы и выслушивать критику сенаторов как от Республиканской, так и Демократической партии. Поводом для встречи стала новая статья из серии расследований, выходящей в издании The Wall Street Journal: по информации WSJ, руководство Facebook санкционировало разработку детской версии инстаграма, чтобы конкурировать с популярными среди соответствующих возрастных групп тиктоком и снэпчатом, информирует сайт meduza.
Еще одна претензия к Facebook заключается в том, что соцсеть ведет тайный список VIP-пользователей, к которым не применяются обычные алгоритмы модерирования, утверждает WSJ. Этим "элитным" пользователям соцсеть позволяет демонстративно нарушать правила, то есть распространять фейки, призывы к насилию, личные данные и прочее, за что пост обычного пользователя немедленно удалят, а его самого забанят.
В качестве доказательства WSJ приводит внутренний отчет Facebook, где напрямую говорится о списке из более чем миллиона человек по всему миру. Любой из них может нарушить предписания соцсети без последствий для себя. Например, пользователи из VIP-списка рассказывают о смертельных побочных эффектах вакцин от коронавируса и обвиняют высокопоставленных демократов в создании тайной секты педофилов (это популярная конспирологическая теория QAnon). "Обычные" пользователи фейсбука получили бы за это как минимум временный бан.
Другой пример – знаменитый бразильский футболист Неймар, выложивший в соцсеть переписку с женщиной, обвинившей его в изнасиловании. Нападающий "ПСЖ" раскрыл ее имя и опубликовал обнаженные фотографии – в стандартной ситуации обнародование подобного контента без обоюдного согласия сторон подразумевает немедленное удаление, но из-за особого статуса Неймара его пост оставался в открытом доступе больше суток. Аккаунты пользователей, которые допустили подобное нарушение, должны удаляться, но администраторы фейсбука не решились выгонять из соцсети звездного спортсмена.
А в мае 2020 года, когда в США начались массовые беспорядки после убийства полицейскими афроамериканца Джорджа Флойда, тогдашний президент Дональд Трамп опубликовал в своем аккаунте пост со словами "За грабежами следует стрельба". Он остался в открытом доступе благодаря личному вмешательству главы Facebook Марка Цукерберга, хотя автоматизированная система модерирования присвоила ему 90 из 100 баллов (это означает, что контент с очень высокой степенью вероятности нарушает принципы Facebook).
Другая привилегия участников VIP-списка в том, что их контент анализируют реальные сотрудники, тогда как посты обычных пользователей изучают автоматизированные системы — алгоритмы фейсбука, часто допускающие ошибки и сбои, оспорить которые потом очень трудно.
Например, один аккаунт алгоритмы заблокировали за разжигание ненависти, хотя его хозяин пожаловался на белую краску, другой — за простое поздравление с днем рождения. В 2020-м египетский журналист Хосам Эль-Соккари раскритиковал мусульманских радикалов, но система решила, что он, наоборот, поддерживает экстремистов, и заблокировала его аккаунт.
Сомнительные или вызывающие вопросы посты VIP-пользователей всегда изучают живые люди и в индивидуальном порядке. И даже при таком подходе политики, актеры и спортсмены часто получают возможность распространять информацию, за которую обычных пользователей мгновенно удаляют.
Еще один материал WSJ рассказывает о том, как фейсбук невольно продвигает жестокий контент и заведомо ложную информацию. В 2018 году Цукерберг объявил, что новый алгоритм соцсети сократит количество постороннего контента в индивидуальных лентах и поможет продуктивнее взаимодействовать с друзьями и родственниками. Но изменения вызвали ровно противоположный эффект: чтобы привлечь внимание пользователей, новостные и политические страницы сделали ставку на сенсационный и вирусный контент, и его в лентах стало даже больше. А сама трансформация ленты привела к росту количества оскорблений, проявлений агрессии и призывов к насилию.
Например, согласно новой политике, фейсбук начал активнее распространять в лентах контент, который собирает больше "осмысленных социальных реакций". На практике это означает, что стандартные лайки способствуют продвижению постов меньше, чем раздраженный или злой эмодзи. Невинное семейное фото в основном собирает именно стандартные лайки, и алгоритм фейсбука продвигает его в ленте не так активно, как пост с противоречивым или неоднозначным мнением, который вызывает негативные отклики.
Таким образом, изначальная идея установить более личные взаимодействия между пользователями обернулась провалом: люди стали чаще видеть в ленте контент, который их возмущает, и чаще начали оскорблять друг друга. При этом проявления агрессии запускают цепную реакцию: чем больше злых эмодзи или комментариев с пожеланиями смерти появляется под публикацией, тем активнее алгоритм ее продвигает, что вызывает новую волну оскорблений и травли.
Еще одно слабое место соцсети, по мнению авторов WSJ, заключается в том, что ее модераторы не способны контролировать криминальную деятельность среди неанглоязычных пользователей. Расследователи утверждают, что слабая модерация постов за пределами США, Великобритании и Канады привела к тому, что фейсбук превратился в виртуальный офис для преступных организаций — от мексиканских наркокартелей до торговцев людьми из Азии. У компании просто нет достаточного количества компетентных иностранных администраторов, чтобы контролировать и удалять нелегальный контент.
По данным WSJ, в самых разных странах, от Эстонии до Эфиопии, группировки радикалов, националистов и экстремистов используют фейсбук как площадку для разжигания ненависти. Например, в провластных эфиопских группах открыто призывают к насилию в отношении этнического меньшинства тиграи, представителей которого называют "раком" и "гиенами" и предлагают уничтожить. Из-за недостаточно профессиональной работы с данными такие посты становятся вирусными и долгое время появляются в лентах тысяч пользователей, прежде чем их удаляют.
Другой скандальный случай — кампания против проживающего в Мьянме народа рохинджа. В августе 2018 года в фейсбуке нашли более тысячи постов, комментариев и роликов с проявлениями ненависти против мусульман, которых исповедующие буддизм соотечественники призывают гнать из Мьянмы, называя свиньями и собаками. Журналисты Reuters писали, что такое попустительство соцсети объясняется весьма прозаически: до 2015 года у Facebook был всего один модератор, владеющий бирманским языком. Позже их количество выросло до четырех и только недавно — до 60.
Наконец, Facebook оказался просто не в состоянии справиться с потоком антипрививочников — несмотря на желание Цукерберга использовать соцсеть для популяризации вакцин против ковида. В июле этого года президент США Джо Байден обвинил компанию в недостаточно активном сопротивлении распространителям теорий заговора. По данным WSJ, представителям соцсети хорошо известно о масштабе распространения фейков и теорий заговора в их соцсетях, но руководство не предложило никаких эффективных мер по борьбе с ними. Еще весной 2021 года выяснилось, что 41% англоязычных постов о коронавирусе в Facebook на самом деле дискредитируют вакцинацию, а всего пользователи видят в ленте посты антиваксеров 775 миллионов раз в сутки.
По информации WSJ, высокопоставленные сотрудники Facebook обеспокоены тем, что корпорация достигла слишком больших масштабов, из-за чего ее почти невозможно контролировать.
Но публично руководители соцсети не признали ни одного из выдвинутых в ее адрес обвинений. Вице-президент Facebook по международным делам и связям с общественностью Ник Клегг и вовсе заявил, что в основе так называемого "Досье Facebook" лежит ложное предположение, будто компания сознательно игнорирует результаты собственных исследований. Пока что Facebook не анонсировал никаких реформ и не представил обновленных гайдлайнов, которые учитывали бы отмеченные журналистами недостатки.
Авторы разоблачительных материалов уверены, что Facebook недостаточно работает с имеющимися данными, чтобы обезопасить пользователей и создать для них комфортное пространство. Представители компании уверяют, что делают все возможное, но иногда физически не могут уследить за более чем двумя с половиной миллиардами аккаунтов в своих соцсетях.
Проблема стремительно переходит из публичного пространства в правовую сферу – спустя несколько дней после публикации материалов федеральный суд потребовал от руководства соцсети обнародовать материалы об удаленных постах с призывами к насилию против рохинджа.
Кто мы такие: О нас и Контакты. Как мы пишем новости и наши принципы: Редакционный кодекс. Мы старались, если вам понравилось – задонатьте.
Если Вы заметили орфографическую ошибку, напишите нам.