Мнение: Не работает ли система регулирования безопасности Meta?

Почти каждый создатель контента или активный менеджер социальных сетей столкнулся с одной и той же проблемой при публикации в Facebook или Instagram в последнее время: запись или аккаунт блокируется, вероятно, по ошибочным причинам.

Эта раздражающая ситуация — лишь часть сложной проблемы, связанной с системой регулирования контента Meta. Хотя у Meta, кажется, есть много контрольных мер — иногда абсурдных — корень проблемы, похоже, не решен.

За последние несколько месяцев Meta ввела множество обновлений своих руководящих принципов содержания и ужесточила правила с целью создания более здоровой онлайн-среды. Одним из последствий стало то, что многие бизнесы, издатели и пользовательские аккаунты были заблокированы, что привело к сотням жалоб на форумах, платформах для чата и в социальных сетях. Несколько новостных издателей и брендов были удалены с платформ Meta в некоторых регионах в этом году, что вызвало обеспокоенность среди владельцев бизнеса, журналистов и создателей контента.

Несмотря на недавние обновления Meta, создающие впечатление более строгой модерации и тщательного отслеживания содержимого, размещаемого на ее платформах, посты, связанные с наркотиками, самоубийствами, сексуальными домогательствами, издевательствами, речью ненависти, злоупотреблениями и фейковыми новостями, продолжают просачиваться через алгоритмы, достигая уязвимых сообществ.

Не могу не задаться вопросом: что происходит с системой безопасности Meta?

Аккаунты заблокированы по неверным причинам

Всё начинается с похожего сообщения: «Ваш аккаунт Meta не соответствует нашим правилам.» Многие пользователи Facebook и Instagram были заблокированы или временно отстранены от своих аккаунтов «за несоблюдение» правил Meta, даже когда они уверены, что соблюдали их.

Это ситуация, с которой мы столкнулись в Wizcase. Система Meta пометила соответствующие элементы как неприемлемые и заставила менеджера сообщества пройти процесс апелляции и предоставить удостоверения личности, выданные государством.

Сотни пользователей, менеджеров сообществ и аккаунт-менеджеров жаловались на платформах вроде Reddit и других форумах, чатах и социальных медиа каналах на подобные ситуации. В ряде несчастных случаев пользователи теряют свои аккаунты, и они ничего не могут с этим поделать, причем они даже не получают объяснений.

«Служба поддержки Facebook ужасна. Независимо от того, сколько раз мы рассказываем им все или объясняем все, они просто не понимают», — сказал один из пользователей на Reddit в теме об заблокированных аккаунтах. «Сразу могу сказать одно: вы не сможете восстановить свой аккаунт, если вы не тратите сотни тысяч в день», — добавил другой.

Эта проблема, хотя она может казаться касающейся только создателей контента, является лишь малой частью большего вызова.

Meta против судебных исков

На протяжении многих лет Meta инвестировала в модерацию контента, разрабатывала новые стратегии для создания безопасной платформы для пользователей и защиты от новых исков. Самым последним является иск от модераторов контента из Кении, которые в настоящее время требуют компенсации в размере 1,6 миллиарда долларов за массовые увольнения и в качестве компенсации за травмирующий материал, с которым они сталкивались при анализе контента для Facebook.

Технологическая компания полагается на сторонние организации для помощи в регулировании контента и разрабатывает инструменты для определения того, нарушает ли контент правила платформы. Однако эти меры оказались недостаточными, и ситуация вышла из-под контроля, особенно среди несовершеннолетних пользователей.

В 2021 году Meta ввела новые функции защиты, но это не помешало Сенату включить Instagram и Facebook в список платформ, которые в прошлом году считали вредными для детей. Технологический гигант столкнулся с совместным иском, поданным 33 штатами США, по поводу его манипулятивного и вредного алгоритма.

С января Meta делится обновлениями о новых инструментах контроля безопасности. В июне компания усовершенствовала свой инструмент противостояния домогательствам, чтобы защитить подростков на Instagram с помощью функции «Близкие друзья» вместе с функцией «Ограничения», благодаря которой взаимодействовать с контентом, размещенным молодыми пользователями, могли только настоящие друзья и члены семьи.

Всего несколько дней назад компания объявила о создании нового ресурса Teen Accounts для защиты подростков и «успокоения родителей, что подростки безопасно взаимодействуют в сети». Будет ли это достаточно для защиты детей? А что насчет старших пользователей?

Небезопасная экосистема

Facebook, Instagram и WhatsApp все еще страдают от вредоносного контента, который влияет на пользователей всех возрастов, профессий и социальных групп, и вряд ли это проблема скоро будет решена.

Исследование, проведенное Центром по борьбе с цифровой ненавистью (CCDH), проанализировал более 500 миллионов комментариев на Instagram, оставленных на аккаунтах 10 женщин-политиков в Соединенных Штатах, и показало, что Meta не смогла удалить или принять меры в отношении 93% этих комментариев.

Множественные иски против Meta буквально доказали, что компания испытывает трудности в защите пользователей от вредоносного контента, а также наносит ущерб творцам контента, издателям и брендам, используя несправедливые фильтры и плохо реализованные инструменты безопасности.

Конечно, это сложный и глубокий вопрос, который следует рассматривать подробно, но, возможно, пришло время признать, что Meta не справляется с этой ситуацией. Поверхностные решения не исправят систему, которая изначально сломана. Теперь настоящий вопрос звучит так: Сколько еще пользователей должны быть несправедливо заблокированы, введены в заблуждение или манипулированы, прежде чем произойдут реальные изменения?