[論文レビュー] Using co-sharing to identify use of mainstream news for promoting potentially misleading narratives

Pranav Goel, Jon Green+2 more|arXiv (Cornell University)|Aug 12, 2023

Misinformation and Its Impacts被引用数 5

ひとこと要約

本論文は、信頼できるメディアが発信する主流報道記事が、Twitter上でフェイクニュースと共同で共有されることで、意図せず誤解を招く物語が拡散されていることを特定している。自然言語処理（NLP）を用いて誤情報の物語を検出する手法を採用し、共通共有された記事は、一部の偏向性を考慮しても、共通共有されていない記事よりも著しく高い割合で誤情報の物語を含んでいることを示している。これは、事実に基づいた報道が、誤情報キャンペーンを強化する役割を無自覚に果たしていることを示している。

ABSTRACT

Much of the research quantifying volume and spread of online misinformation measures the construct at the source level, identifying a set of specific unreliable domains that account for a relatively small share of news consumption. This source-level dichotomy obscures the potential for users to repurpose factually true information from reliable sources to advance misleading narratives. We demonstrate this potentially far more prevalent form of misinformation by identifying articles from reliable sources that are frequently co-shared with (shared by users who also shared) "fake" news on social media, and concurrently extracting narratives present in fake news content and claims fact-checked as false. Specifically in this study, we use Twitter/X data from May 2018 to November 2021 matched to a U.S. voter file. We find that narratives present in misinformation content are significantly more likely to occur in co-shared articles than in articles from the same reliable sources that are not co-shared, consistent with users using information from mainstream sources to enhance the credibility and reach of potentially misleading claims.

研究の動機と目的

• 信頼できる出典からの事実報道が、虚偽ではないにもかかわらず、Twitter上でフェイクニュースと共同で共有される仕組みを調査すること。
• 同じ出典から発信された共通共有記事とそうでない記事とを比較し、共通共有記事が非共通共有記事よりも誤情報の物語をより多く含むかどうかを検証すること。
• 共通共有現象が、偏った情報の選別や記事の人気度に起因するのではなく、物語の内容そのものに起因するかどうかを特定すること。
• オンラインの誤情報エコシステムにおいて、正当な報道がどのようにして誤った物語の信ぴょう性と拡散範囲を高めるために再利用されるかを示すこと。
• グラフベースの手法を構築・適用し、フェイクニュースと不均衡に共通共有されている記事を特定することで、物語レベルでの分析を可能にすること。

提案手法

• 著者らは、ノードをフェイクニュースおよび主流報道記事とし、エッジはTwitter上での共有ユーザー数に重みを付けるグラフベースのアプローチを採用している。
• 個々の記事の拡散度を制御する統計モデルを適用し、不均衡な共有の可能性をスコア化することで、過剰共有を隔離している。
• 誤った主張から、教師なしのNLP手法を用いて物語構造を抽出し、誤情報の兆候となるエンティティ・アクション関係を同定している。
• 共通共有された記事は、フェイクニュースと共有するユーザーの割合が、期待される共通共有率よりも著しく高い場合に分類される。
• 偏った情報選別を制御するため、同じ出典から発信された共通共有記事と非共通共有記事を比較し、厳密な信頼性基準を適用している。
• ワシントン・ポストの「ワクチン接種済みの人が新型コロナウイルスの死亡者多数を占める」という記事を事例として、反ワクチンネットワークによる不均衡な共有を分析した。

実験結果

リサーチクエスチョン

• RQ1 フェイクニュースと共同で共有される主流報道記事は、そうでない記事よりも誤情報の物語をより多く含むか？
• RQ2 フェイクニュースと共同で共有される主流報道記事は、偏った情報の選別や記事の人気度ではなく、物語の内容に起因して共有されているか？
• RQ3 信頼できる出典からの事実報道が、オンラインの誤情報エコシステムでどれほど誤解を招く物語を支援するために再利用可能か？
• RQ4 フェイクニュースの物語構造は、Twitter上で正当な報道記事と共同で共有されることによって、どのようにして拡散されるか？
• RQ5 グラフベースの手法は、フェイクニュースと不均衡に共通共有されている主流報道記事を効果的に特定でき、物語レベルでの分析を可能にするか？

主な発見

• 偏った情報の選別や人気度を制御しても、フェイクニュースと共同で共有される主流報道記事は、同じ出典からの非共通共有記事よりも著しく高い割合で誤情報の物語を含んでいる。
• ワシントン・ポストの「ワクチン接種済みの人が新型コロナウイルスの死亡者多数を占める」という記事は、事実として正確であるにもかかわらず、反ワクチンフェイクニュースを共有してきたユーザーの間で不均衡に共有された。
• ワクチンの有害性に関する主張や選挙不正に関する主張といった特定の誤情報の物語が、出典の偏向性や記事の人気度とは独立して、共通共有の強力な予測要因であった。
• 共通共有は単なる偏った情報選別の結果ではない。同じ出典が発信する記事の中には、物語の内容が異なるものもあり、物語が豊富な記事だけが不均衡に共通共有されている。
• 本研究では、誤った主張から318の高次元の誤情報の物語を抽出し、共通共有された主流報道コンテンツにおける物語再利用の検出と検証に用いた。
• 研究結果は、主流報道が誤情報の被害者として無自覚に扱われるのではなく、誤った物語の信ぴょう性と拡散範囲を高めるために戦略的に再利用される可能性があることを示唆している。