Facebook усилит борьбу с деструктивными группами

Facebook начала использовать более агрессивный подход к борьбе с скоординированными группами учётных записей, распространяющими на платформе информацию деструктивного характера. В основу программы легла стратегия, которую обычно используют службы безопасности для обнаружения фейковых аккаунтов.

Источник: reuters.com

Социальная сеть усиливает борьбу с группами аккаунтов, которые манипулируют ходом публичных дебатов. Учитывая, что действия Facebook всегда находятся под пристальным вниманием политических сил и общественных групп, новая программа борьбы с нарушениями правил платформы может иметь серьёзные последствия для сервиса.

Новый подход будет использоваться для борьбы с негативными явлениями различного характера: иногда скоординированные группы пользователей массово отправляют жалобы на контент, который не нарушает никаких правил, что приводит к блокировкам; соцсеть также сможет противостоять массовой травле пользователей.

Опыт по борьбе с поддельными аккаунтами будет распространяться и на реальных пользователей, если стихийно сформировавшиеся группы причиняют «скоординированный социальный вред». Это означает, что в распоряжении службы безопасности Facebook есть инструменты, позволяющие идентифицировать маркеры массового поведения пользователей и принимать более масштабные меры, чем блокировка отдельных публикаций или аккаунтов.

Эксперты по безопасности Facebook работают отдельно от модераторов контента, компания была вынуждена пойти на такую меру после выборов президента США в 2016 году. Когда обнаружились «фабрики троллей», образ действия поддельных аккаунтов был охарактеризован как «скоординированное недостоверное поведение» — о массовых удалениях учётных записей теперь сообщают ежемесячно. Служба безопасности борется и с другими угрозами, которые не обязательно происходят от фейковых аккаунтов. Среди них: мошенничество, кибершпионаж или операции открытого влияния, проводимые, например, государственными СМИ.

Как сообщают источники Reuters, специалисты Facebook уже обсуждали варианты вмешательства при возникновении массовой активности реальных учётных записей. В июле стало известно об информационном подразделении вьетнамской армии, которое отправляло массовые жалобы на некоторые аккаунты — в ходе операции некоторые вьетнамцы пользовались настоящими именами.

Facebook вынуждена идти на кардинальные меры, невзирая на постоянное давление со стороны регуляторов, законодателей и даже собственных сотрудников. Иногда компания подвергается критике за слишком строгую цензуру, борьбу с носителями консервативных взглядов, а также за не всегда обоснованные меры принуждения. Переключение фокуса на реальных пользователей породит ещё больше вопросов о том, как действия администрации могут влиять на публичное обсуждение вопросов, онлайн-инициативы и общую тактику компании в политической сфере.