В рекомендательных алгоритмах TikTok нашли пропаганду нездорового пищевого поведения

Издание Wall Street Journal (WSJ) провело журналистское расследование, посвящённое потенциальной опасности рекомендательных алгоритмов TikTok, обнаружив, что некоторым пользователям предлагаются материалы, пропагандирующие нездоровое пищевое поведение. После того, как издание обратилось к администрации TikTok за комментариями, сервис объявил о намерении изменить эти алгоритмы.

Источник изображения: antonbe / pixabay.com

Расследование WSJ началось с историй девочек подросткового возраста, которые, как предполагается, из-за TikTok начали проявлять нездоровый интерес к вопросам похудения, очищения организма и потенциально опасных диет. Чтобы подтвердить потенциальную опасность сервиса, журналисты провели эксперимент, создав более 100 учётных записей в TikTok, под которыми с минимальным участием человека «просматривались» различные видео. При этом 12 из этих аккаунтов значились как принадлежащие 13-летним подросткам, и они «смотрели» ролики о похудении, алкоголе и азартных играх. Как только один из ботов прекращал интересоваться видео об азартных играх и переключался на тему снижения веса, алгоритм TikTok, подстраивался под его новые «предпочтения», предлагая материалы по другой теме.

По итогам эксперимента было подсчитано, что всего боты просмотрели 225 000 роликов, из которых 32 700 относились к теме потери веса по описанию или прочим метаданным. При этом 11 615 видео по ключевым словам в описании соответствовали теме расстройств пищевого поведения, а описания 4402 соответствовали теме нормализации таких расстройств. В отдельных случаях ключевые слова приводились в различных вариантах написания, чтобы не попасть под санкции TikTok. Когда WSJ сообщило администрации сервиса о 2960 потенциально опасных видео, 1778 из них были оперативно удалены, причём неясно, кто это сделал: их авторы или платформа. После того, как WSJ в преддверии публикации материала связалось с администрацией TikTok с просьбой дать комментарии, сервис официально объявил о намерении скорректировать работу рекомендательных алгоритмов — вероятно, это был своего рода удар на упреждение.

Платформа отметила, что видео на некоторые тематики не всегда полезно смотреть в больших количествах — в частности, это касается вопросов похудения и физической нагрузки. Сейчас специалисты сервиса пытаются ограничить работу рекомендательного алгоритма по контенту, который не нарушает условий предоставления услуг, но может оказаться опасным при потреблении в чрезмерных объёмах. Кроме того, тестируется инструмент, который позволит пользователям самостоятельно ограничивать работу рекомендаций по определённым ключевым словам или хештегам.