Сгладьте кривую - как платформы социальных сетей останавливают распространение фейковых новостей

Фейковые новости уже довольно давно стали основной темой для разговоров, и эта проблема снова возникла с появлением коронавируса.

«Вы слышали, что мы собираемся изолировать вас?»

«Армия готовится к развертыванию!»

«НАМ НУЖНО БОЛЬШЕ ТУАЛЕТНОЙ БУМАГИ !!!»

В Ирландии Taoiseach Лео Варадкар умолял общественность прекратить разглашать непроверенную информацию:

«Эти сообщения пугают и сбивают с толку людей и наносят реальный ущерб».

Но Лео, кто эти проверенные источники? (Он сказал нам, что это просто то, чем я займусь позже ...)

Если вы уже читали пост Дэниела «Борьба с алгоритмом YouTube», вы знаете, что YouTube внедрил баннер, направляющий пользователей, ищущих коронавирус, либо на веб-сайт Всемирной организации здравоохранения (ВОЗ), либо на их собственный национальный орган здравоохранения. - в Ирландии - это Вышка. Facebook, Instagram и Twitter также ввели эту меру, чтобы способствовать распространению информации из проверенных источников.

** В стороне **

Так кто же эти проверенные источники?

КТО эти проверенные источники. Все это время он смотрел нам в глаза! (Об этом мы говорили ранее.)

(Если вы еще не читали пост Дэниела и хотели бы прочитать его, я сделаю ссылку на него в разделе ссылок ниже.)

** Конец в сторону **

Учитывая время, это хорошая мысль, но как насчет общей политики таких компаний, как WhatsApp, Facebook, Twitter и Instagram, когда дело доходит до прекращения распространения фейковых новостей? Как вы, возможно, знаете, три из четырех платформ, перечисленных выше (Facebook, Instagram и WhatsApp), теперь принадлежат Facebook Inc. По словам Тессы Лайонс (2018), менеджера по продукту в Facebook,

«Дезинформация вредна для нашего сообщества и вредна для нашего бизнеса».

Компания утверждает, что борется с распространением дезинформации, предоставляя людям больше контекста для рассказов, которые они видят, сокращая распространение ложных новостей и удаляя любые учетные записи или контент, нарушающие их политику.

В настоящее время Facebook Inc. сотрудничает со сторонними организациями, занимающимися проверкой фактов, для выявления фейковых новостей и предотвращения их распространения на своих платформах. Это работает следующим образом:

• Технологии и отзывы пользователей используются для выявления потенциально ложных историй.
• Эти истории проверяются независимыми специалистами по проверке фактов.
• Если история оценивается как ложная, пользователи узнают об этом, и ссылка понижается в пользовательской ленте новостей.
• Против повторных нарушителей принимаются меры, которые могут включать сокращение общего распространения страницы или лишение их прав зарабатывать деньги или размещать рекламу на платформе.

Хотя очевидно, что Facebook Inc принимает меры против распространения ложной информации в Facebook и Instagram, их подход кажется очень ограниченным в его способности проверять все потенциально ложные истории - у них просто нет человеческих возможностей!

Использование таких технологий, как машинное обучение и искусственный интеллект, может принести компании огромную пользу, повысив эффективность обнаружения фейковых новостей и уменьшив их текущую зависимость от сторонних проверок фактов.

Одна из основных проблем компании - это тонкая грань между дезинформацией и сатирой или мнением. Иногда бывает трудно отличить преднамеренную дезинформацию от противоречивых мнений или сатиры. С другой стороны, были подняты вопросы относительно объективности проверяющих факты и процесса оспаривания их решений. Возможно, технологии могут дать более объективную оценку.

Что касается WhatsApp, то здесь нет политики распространения дезинформации. Как приложение для чата со сквозным шифрованием, компания практически не может отслеживать распространение фейковых новостей. Неудивительно, что WhatsApp был одним из основных каналов распространения слухов о коронавирусе. С другой стороны, он также использовался для распространения хороших новостей о том, что министерство обороны Великобритании захватило стадион Уэмбли, чтобы приготовить самую большую в мире лазанью (Waterson, 2020).

До недавнего времени политика Твиттера в отношении распространения дезинформации применялась только к крупным скоординированным усилиям, обычно поддерживаемым государственными структурами (Hern, 2020a). В то время как Facebook поощряет пользователей сообщать о сообщениях, виновных в распространении фейковых новостей, Twitter обычно не предпринимает никаких действий, если не нарушено другое правило сайта. Это становится ясно, когда мы сообщаем о публикации на двух разных платформах.

Twitter, который когда-то описывали как «крыло партии свободы слова», подвергался критике за его подход к уменьшению распространения фейковых новостей. В свете скандала с дезинформацией из-за коронавируса социальная сеть заявляет, что будет применять новое более широкое определение вреда для решения проблемы контента, который «прямо противоречит рекомендациям авторитетных источников глобальной и местной информации в области общественного здравоохранения» (Hern, 2020b).

Что касается свободы слова, то недавно Апелляционный суд США второго округа подтвердил, что привычка Дональда Трампа блокировать критиков в Твиттере является нарушением Первой поправки (Brown, 2020). Красиво связав вещи, сам человек, печально известный тем, что использовал модное словечко «ЛЖНЫЕ НОВОСТИ», написал в Твиттере во время написания.

С точки зрения информационных систем кажется, что в борьбе с распространением фейковых новостей в социальных сетях еще далеко. Учитывая постоянные разработки в области искусственного интеллекта и машинного обучения, трудно представить, что автоматизированная система распознавания и удаления ложной информации не будет реализована в будущем.

Instagram уже представил A.I. система обнаружения оскорбительных комментариев. Если A.I. помечает заголовок как оскорбительный, он автоматически отправит уведомление с просьбой пересмотреть его. Компания надеется, что эта пауза для размышлений уменьшит количество запугивающих комментариев, размещаемых на платформе (Leighton, 2020). Если запугивание в социальных сетях можно остановить с помощью технологий, появление фейковых новостей - лишь вопрос времени!

Ссылки

Браун, С. (2020) Апелляционный суд оставил в силе постановление о том, что Трамп не может блокировать критиков в Twitter, cnet.com, доступно по адресу:
https://www.cnet.com/news/court-of -appeals-denies-trump-rehearing-over-twitter-free-speech-нарушение /
[дата обращения 25.03.2020]

Hern, A. (2020a) Фальшивые твиты о коронавирусе распространяются по мере того, как другие сайты занимают более жесткую позицию, The Guardian, доступно по адресу:
https://www.theguardian.com/world/2020/mar/04/fake -coronavirus-tweets-spread-as-other-sites-take-hard-stance
[дата обращения 25.03.2020]

Hern, A. (2020b) Твиттер для удаления вредоносных фейковых новостей о коронавирусе, The Guardian, доступно по адресу:
https://www.theguardian.com/world/2020/mar/19/twitter-to -remove-dangerous-fake-news-about-coronavirus
[дата обращения: 25.03.2020]

Лейтон, Х. (2019) Инструмент искусственного интеллекта Instagram для обозначения оскорбительных и запугивающих подписей. Но как насчет Facebook? , Forbes, доступно по адресу:
https://www.forbes.com/sites/heatherleighton/2019/12/16/instagram-ai-tool-to-flag-offensive-bullying -captions-but-what-about-facebook / # 2a80ff641d0e
[дата обращения 25.03.2020]

Лайонс, Т. (2018) «Сложные вопросы: как работает программа проверки фактов Facebook?» доступно по адресу:
https://about.fb.com/news/2018/06/hard-questions-fact-checking/
[дата обращения 25.03.2020]

Уотерсон, Дж. (2020) Они строят огромную лазанью: раскрыт человек, стоящий за спуфингом вируса в WhatsApp », The Guardian, доступно по адресу:
https://www.theguardian.com/technology/2020 / 21 марта / a-lasagne-the-size-of-wembley-whatsapp-joke-swallowed-целое
[дата обращения 25.03.2020]