Google против фейковых новостей
Мир тонет в фейковых новостях разной степени глупости, абсурдности и опасности. На днях вышел документ «Как Google борется с дезинформацией» (How Google fights disinformation), посвященный проблеме. Он рассказывает о важности борьбы с фейковыми данными в сети и о том, как это делает компания. Публикуем на основе конспекта Seonews.
КСТАТИ. В России тем временем во втором чтении принят закон о борьбе с фейковыми новостями. Из-под него вывели газеты, каналы и радио (для которых есть отдельные законы), сетевые СМИ и порталы предлагается блокировать (но у них будет возможность избежать блокировки при своевременном удалении материалов), а граждан – штрафовать. В третьем чтении закон рассмотрят уже завтра – 7 марта.
Вступление
1. Что такое недостоверная информация?
Google называет дезинформацией «намеренные попытки обмануть и ввести в заблуждение пользователей путем применения технологий интернета». Часть дезинформаторов делает это из-за финансовых целей, другая – из-за политических, чтобы посеять среди людей определенные настроения, повлиять на результаты выборов или вовсе вызвать раскол в обществе; кто-то публикует ложные данные ради развлечения. Часто люди не знают, что пост или новость фейковые, поэтому довольно трудно оценить реальные масштабы распространения дезинформации.
2. Борьба с дезинформацией в продуктах и услугах Google
Google осознает свою ответственность перед обществом и позволяет пользователям самим решать, являются ли действия компании в той или иной ситуации справедливыми: универсального решения нет.
Подход компании к борьбе с дезинформацией основан на трех стратегиях:
- Приоритет качества;
- Больше контекста;
- Противостояние спаму.
Приоритет качества
Продукты Google предназначены для сортировки огромного количества данных и демонстрации контента, который наилучшим образом отвечает потребностям пользователей и которому можно доверять.
Больше контекста
Продукты Google дают пользователям огромное количество данных в ответ на их запросы. Свободный доступ к контексту – ключ к формированию у людей собственного мнения на тот или иной счет. Этому помогают:
- панель знаний в Поиске и YouTube (на панели можно увидеть факты о человеке или явлении по запросу);
- функция Full Coverage в Google News (открывает доступ ко всем, в том числе и полярным, материалам по теме);
- раздел «Главные новости» в Google News и «В тренде» в YouTube (актуальные инфоповоды);
- ярлык «Почему я это вижу» (объясняет пользователям, по какой причине им показываются определенные рекламные объявления).
Противостояние спаму
Алгоритмы не могут определить, является ли контент фейковым, но политика Google предполагает запрет определенного поведения. Триггерами будут искажение информации о правах собственности на контент, размещение некорректных данных в Google News и рекламных продуктах компании и «мухлевание» с алгоритмами ранжирования. Такие действия он расценивает как «спам».
Работа с новостными изданиями
Компания активно работает со сторонними организациями для борьбы с дезинформацией. Например, поддерживает качественную журналистику (в марте 2018 года Google запустил программу Google News Initiative) и сотрудничает с новостной индустрией (AMP и YouTube-платформа для издателей, которые помогают препятствовать распространению ложной информации).
Партнерство с внешними экспертами
Google сотрудничает с проектами, нацеленными на предоставление пользователям проверенных данных: The Trust Project, International Fact-Checking Network, First Draft News; спонсирует исследователей, изучающих проблемы дезинформации.
В марте 2018 года Google.org (благотворительное подразделение Google) запустило глобальную инициативу по поддержке медиаграмотности. В это направление было вложено $10 млн.
3. Опережая будущие риски
Google создал несколько проектов для обеспечения легитимности выборов в США, потому что “здоровая” демократия – приоритет компании. Это Jigsaw (предотвращение слежки, экстремистской пропаганды и цензуры), Protect Your Election (защита от фишинга) и Project Shield (защита от DDoS-атак). Рекламодатели, запускающие политические объявления, проверяются особенно тщательно.
От фишинга защищен и Gmail: пользователей получают предупреждение, когда приходит сомнительное письмо, но такие письма в принципе редко попадают в папку «Входящие».
Ожидая неожиданного
Злоумышленники постоянно ищут способы обойти защиту онлайн-сервисов и распространить фейковый контент. Одним из примеров здесь могут служить так называемые «Глубокие фейки» или «Синтетические медиа». Это продукты, созданные с помощью искусственного интеллекта. Злоумышленник может записать собственную речь, наложив слова на лицо известного политика или общественного деятеля. Google и YouTube уже пробуют применять ИИ и машинное обучение для поиска такого контента.
Поиск Google, новости и дезинформация
В обоих продуктах для ранжирования контента используются алгоритмы, а не люди. Но Google Новости используют иные факторы алгоритмов:
- освещенность новостного сюжета в медийном пространстве;
- связь конкретной истории с другими новостями;
- трастовость источников.
Тем не менее алгоритмы не способны определять фейковый контент. Они только измеряют сигналы, поступающие от пользователей и демонстрирующие авторитетность веб-страницы в той теме, которую она охватывает.
Представители Google отмечают, что не удаляют контент из выдачи за исключением очень редких случаев (судебного решения; нарушения рекомендаций для вебмастеров; запроса вебмастера, отвечающего за страницу, на которой размещен этот контент).
Поскольку сервис Google News не ставит цели быть всеобъемлющим отражением интернета, это позволяет не допускать в сервис сайты и аккаунты, выдающие себя за другие организации или публикующие чужой контент без указания авторских прав, а также намеренно вводящие в заблуждение пользователей.
Алгоритмы Google в борьбе с дезинформацией
Алгоритмы направлены на то, чтобы выдавать в поиске сначала более качественную и релевантную информацию. Оценка «качественности» зависит от ситуации. Например, заметки национального новостного издания будут считаться более релевантными, если пользователь ищет информацию о текущих мировых событиях. Но для запросов, связанных с садоводством, они будут представлять мало ценности.
Повышение качества информации в деликатных темах
Особенно подвержены «фейковости» так называемые «ваши деньги или ваша жизнь» (YMYL). В нее входят страницы финансовых транзакций, страницы, содержащие медицинские или юридические данные, а также официальные порталы для информирования населения.
Когда алгоритмы поиска вычисляют, что запрос пользователя относится к этой категории, система будет полагаться на свое понимание авторитетности и надежности страниц, которые в итоге попадут в выдачу.
Когда речь идет о срочных новостях, спекуляции могут опережать появление подтвержденных фактов. Чтобы противостоять этому, Google разработал специальные инструменты, которые понижают видимость подобных сообщений, особенно в период наиболее активного обсуждения инфоповода в сети.
Google активно борется с попытками обмануть его алгоритмы
Не все владельцы сайтов действуют добросовестно. PageRank использует ссылки между сайтами как индикаторы авторитетности. Это привело к тому, что многие вебмастера пытались обмануть Google и платили друг другу за ссылки.
Алгоритмы Google способны определять мошеннические действия и блокировать их. Кроме того, команда Google вручную обрабатывает некоторые жалобы пользователей на спам. Так, в 2017 году меры были приняты в отношении 90 тыс. пользовательских сообщений о спаме.
По мере того, как совершенствуется техника Google, растет и масштаб хакерской деятельности. Google сосредоточился на решении этой проблемы, и в 2018 году ему удалось удалить из выдачи более 80% недобросовестных ресурсов.
Google Новости и Google Поиск персонализируют контент?
Поиск Google. Персонализации в Google не так много. Персонализированная выдача показывается нечасто, а когда показывается, не отличается для разных пользователей, вводящих один и тот же запрос. В основном эти различия объясняются местоположением пользователей, языком и т. д. Карусель Top Stories, которая показывается в выдаче, никогда не персонализируется.
КСТАТИ. Недавно мы писали про SEO-тренды 2019 года
Google Новости. Сервис предлагает три способа поиска интересующей информации: разделы «Заголовки», «Главные новости» и «Рекомендованные вам». В последнем разделе можно указать интересующие темы, места или публикации, чтобы Google подтягивал туда информацию, актуальную для пользователя. Кроме того, в Google Новостях есть опция «Взгляд с разных сторон», которая позволяет изучить какое-то событие максимально полно, прочитав материалы различных изданий по этой теме.
Google не прекращает совершенствовать алгоритмы, чтобы научиться решать задачи, с которыми он еще не сталкивался.
Поскольку злоумышленники никогда не прекратят попыток обмануть Google, компании придется столкнуться с новыми разновидностями мошенничества.
Сложность заключается в том, что алгоритмы поиска каждый день работают с запросами, которых до этого никогда не встречали (15% ежедневно).
Отсюда вытекает много нерешенных проблем. Многие злоумышленники намеренно публикуют недостоверную информацию по темам, которые слабо освещены в сети, поэтому алгоритмы Google могут высоко ранжировать некачественный контент.
YouTube и дезинформация
Чтобы эффективно противостоять фейковым данным, YouTube инвестирует как в развитие технологий, так и в человеческие ресурсы. Например, платформа обращается к экспертам, чтобы составить универсальный список правил сообщества (которые постоянно пересматриваются, чтобы идти в ногу со временем и соблюдать права человека), а спорный контент круглосуточно проверяют тысячи рецензентов. Технологии обеспечивают скорость, а люди обладают знанием контекста, необходимым для точной настройки всех систем.
Подход YouTube к борьбе со спорным контентом базируется на таких принципах:
Пользователи могут размещать контент на платформе, если он не противоречит Правилам сообщества
В Правилах сообщества YouTube есть несколько пунктов, которые в той или иной степени касаются фейкового контента. Например, YouTube запрещает публиковать большие объемы повторяющегося контента на платформе, а также в комментариях, личных сообщениях, если основной целью таких действий является попытка перенаправить пользователей на сторонний ресурс. Запрещена также накрутка лайков, просмотров или дизлайков при помощи специальных инструментов или за счет привлечения ничего не подозревающих пользователей. На платформе нельзя публиковать видео, основная цель которых – заставить пользователей поставить лайк или оставить комментарий. Также запрещено копировать контент чужих каналов и выдавать себя за других людей.
- Высокая планка для рекомендаций
Основная цель YouTube – помочь пользователям найти контент, который бы им понравился. YouTube старается предоставить пользователям максимум информации по интересующей их теме и в то же время не рекомендовать низкокачественный контент.
Как развивались рекомендации в YouTube
Когда в YouTube впервые внедрили рекомендательную систему, многие авторы начали выкладывать видео с кликбейтными названиями. Юзеры сразу понимали, что содержание не соответствует названию, и закрывали ролик, поэтому YouTube начал отслеживать, сколько времени пользователи уделяли тому или иному видео, и кликбейтные ролики понижались в выдаче.
Однако время просмотра не всегда достоверно отображает отношение пользователей к контенту. Поэтому YouTube ввел опросы, которые позволяют узнать, насколько пользователям нравятся те или иные рекомендации.
YouTube и новости
Пользователи, которые обращаются к YouTube в поисках именно такого контента, увидят в выдаче новости только от проверенных авторитетных источников. В рекомендации под такими видео будут аналогичные по качеству материалы.
YouTube-каналам требуется время, чтобы подготовить контент для выпуска видео по этой теме. В такие моменты могут активизироваться мошенники, распространяющие ложные данные об этом событии. Чтобы противостоять им, YouTube разработал специальные алгоритмы, выделяющие только проверенные релевантные сообщения по теме.
YouTube также активно поддерживает журналистов, что позволяет повысить качество публикуемого на платформе контента. К примеру, на эти цели в 2018 году было выделено $25 млн.
- Монетизация – это привилегия
Авторы могут подать заявку на участие в партнерской программе. И если они соответствуют условиям площадки, то могут монетизировать свой контент.
После подачи заявки на участие представители YouTube проверяют канал на соответствие правилам. Доступ к монетизации получают только проверенные авторы, не копирующие чужой контент.
Рекламные продукты Google и дезинформация
У Google есть несколько рекламных инструментов, которые помогают владельцам сайтов, разработчикам приложений и создателям видео зарабатывать, продвигая свои товары и услуги. Среди таких инструментов – Google Ads, AdSense, AdMob и Ad Manager.
Google считает, что содержание как сайтов, так и рекламных объявлений должно быть безопасным и предоставлять пользователям лучший опыт. Именно поэтому Google старается как можно более четко прописывать критерии такого контента.
Заключение
- Борьба с распространением ложной и вводящей в заблуждение информации – основная миссия Google. Компания стремится к тому, чтобы ее продукты были полезны для миллиардов пользователей, которые ежедневно прибегают к их помощи;
- Хотя Google всегда старался бороться со злоумышленниками, время показало, что эта задача становится все более приоритетной;
- Google стремится развивать технологии по борьбе с фейковым контентом. Компания признает, что решение этой проблемы еще не найдено и ей есть куда расти.
Тут находится наш телеграм – подписывайтесь, чтобы не пропускать свежие новости и статьи