Microsoft объявила войну дипфейкам
Microsoft анонсировала новые технологии для борьбы с дезинформацией, которые помимо прочего направлены на обеспечение информационной безопасности предстоящих выборов президента США.
Не верь своим глазам
Технология ElectionGuard от Microsoft будет бороться с дезинформацией, а AccountGuard должна защитить от фейков и провокаций кампании кандидатов. Также для устранения одного из основных источников дезинформации — дипфейков была разработана технология Microsoft Video Authenticator. Она позволит анализировать фото и видео и оценивать в процентах вероятность того, что медиафайлы были искусственно изменены.
Microsoft Video Authenticator способна рассчитать этот процент в реальном времени для каждого кадра видео во время его воспроизведения. Технология дает оценку изображению, обнаруживая границу наложения дипфейка и тонких элементов выцветания или оттенков серого, которые могут быть не видны человеческим глазом.
Еще одна технология, которая может как обнаруживать манипулятивный контент, так и убеждать людей в подлинности просматриваемых медиафайлов, состоит из двух компонентов. Первый — это инструмент, встроенный в Microsoft Azure, который позволяет производителю контента добавлять цифровые хэши и сертификаты в часть контента. Затем хэши и сертификаты сохраняются вместе с контентом как метаданные, где бы он ни находился в сети.
Второй — это считыватель, который может существовать как расширение браузера или в других формах, проверять сертификаты и сопоставлять хэши, позволяя людям быть уверенными, что они потребляют подлинный контент, а также предоставляя им подробную информацию о том, кто его создал.
В рамках борьбы с дипфейками Microsoft поддержала исследование профессора Джейкоба Шапиро из Принстона, в ходе которого было проанализировано 96 отдельных кампаний в 30 странах в период с 2013 по 2019 год. Эти кампании в социальных сетях были направлены на нанесение ущерба репутации известных людей, агитацию общественности или поляризацию дебатов. Более четверти таких кампаний таргетировались на США. Примерно 93% из них базировались на оригинальном контенте, 86% усиливали уже существующий контент и 74% искажали факты.
Дипфейки не победить в одиночку
В Microsoft отмечают, что ни одна организация, действуя самостоятельно, не сможет оказать значимое влияние на борьбу с дезинформацией и вредоносными дипфейками. Поэтому компания сотрудничает с AI Foundation в продвижении технологии Video Authenticator. С консорциумом медиахолдингов, включая BBC, CBC / Radio-Canada и New York Times, Вашингтонским университетом (UW), Sensity и USA Today IT-холдинг работает по вопросам медиаграмотности.
В сотрудничестве с Ассоциацией радио и телевидения цифровых новостей , The Trust Project и Центром информирования общественности и ускорения социальной трансформации UW Microsoft поддерживает кампанию, побуждающую людей проверять, поступила ли информация от авторитетных СМИ, прежде чем поделяться ей в соцсетях.
Помимо этого, Microsoft в последние месяцы развернула программу NewsGuard , которая позволяет пользователям подробнее узнать об онлайн-источнике новостей, прежде чем использовать его контент. NewsGuard управляет командой опытных журналистов, которые оценивают новостные -сайты на основе девяти критериев журналистской честности и присваивают каждому оценку.
NewsGuard доступен после скачивания расширения, доступного для всех стандартных браузеров. Microsoft отмечает, что не имеет никакого редакционного контроля над рейтингами NewsGuard, а расширение браузера NewsGuard никоим образом не ограничивает доступ к информации.
Ранее Performance360 рассказывал, что команда Дзена начала тестировать программу проверки фактов и устранения фейков в публикациях каналов. Для реализации этой задачи «Яндекс» привлек фактчекеров из ТАСС, Интерфакс, The Bell и Высшей школы экономики.