«ВКонтакте» запустит нейросеть для распознавания языка вражды

«ВКонтакте» работает над нейросетью для автоматического распознавания материалов с hate speech или враждебными высказываниями. Технология позволит ускорить обработку жалоб пользователей.

Искусственный интеллект в данный момент находится в разработке. Его обучат распознаванию проявлений экстремизма, ксенофобии, расизма, гомофобии, сексизма, эйджизма, оскорблений на почве религиозной принадлежности или наличия заболеваний. Для повышения качества модерации жалоб «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания».

При этом команды Модерации и Поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.

«За первую половину 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания», — сообщил Иван Корнеев, руководитель команды модерации ВКонтакте.

Ранее Performance360 рассказывал о том, что Facebook отчитался об итогах модерации во втором квартале: из одноименной соцсети было удалено более 1,5 млрд публикаций и заблокировано столько же фейковых аккаунтов, а из Instagram было стерто свыше 23,9 млн единиц токсичного контента.