TikTok запускает новые инструменты для обнаружения и удаления неприемлемого контента
TikTok объявила о запуске инструментов, направленных на предотвращение нарушений Правил сообщества. Новый функционал способен выявлять и удалять неприемлемый контент, а также выносить предупреждения пользователям, опубликовавшим его. Пока нововведения затронули только США и Канаду.
Как будет работать модерация контента
В течение нескольких недель TikTok начнет автоматически удалять недопустимый контент уже при его загрузке пользователем на платформу. Автоматизация в первую очередь направлена на те категории запрещенного контента, которые TikTok научился выявлять с особенной точностью. Речь идет о нарушении безопасности несовершеннолетних, демонстрации обнаженного тела, действий сексуального характера, контента, содержащего сцены насилия, в том числе над детьми, незаконных действий и товаров, подлежащих правовому регулированию. Пользователь, чье видео было удалено, получит соответствующее предупреждение. Он может подать апелляцию, и, если повторное рассмотрение не выявит потенциальной угрозы для сообщества, контент будет опубликован.
Новая система будет подсчитывать количество нарушений, совершенных пользователем и уведомлять его в личном кабинете. Чем больше нарушений, тем больше уведомлений получит аккаунт, причем со временем эти уведомления начнут появляться в различных разделах приложения, а не только в личном кабинете.
Аккаунт пользователя может быть забанен сразу после первого предупреждения, если контент, который он пытался опубликовать, нарушает политику абсолютной нетерпимости сообщества. Повторные предупреждения могут повлечь за собой ограничение в возможности загружать видео, комментировать или редактировать профиль. В зависимости от степени серьезности предыдущих нарушений, ограничения могут продлиться от 24 до 48 часов. Кроме того, аккаунт может быть заблокирован на 72 часа, и его владелец не сможет выполнять в нем никаких действий, кроме просмотра других видео. В случае если пользователь продолжит нарушать правила платформы, его учетная запись может быть удалена без возможности восстановления.
Представители TikTok подчеркнули, что возможность обжаловать решение об удалении видео есть у всех пользователей. Если контент был помечен как недопустимый по ошибке, все штрафные санкции будут сняты с аккаунта, а записи о накопленных нарушениях со временем исчезнут.
Новая технология разрабатывалась совместно с Консультативным советом по контенту США, и ее тестирование показало, что 60% пользователей, получивших первое предупреждение, в дальнейшем не нарушали Правила сообщества TikTok.
В TikTok также рассказали, что изначально запуск новой технологии был предназначен для мест, особенно пострадавших от эпидемии COVID-19 и где требовались дополнительные меры по повышению безопасности. С тех пор процент ложных срабатываний системы составляет около 5%, а число пользовательских апелляций не изменилось. Команда TikTok намерена и дальше работать над повышением точности своих инструментов.
Все интересное про диджитал у нас в телеграме. Подписывайтесь: t.me/performance_360