[論文レビュー] Debunking in a World of Tribes

Fabiana Zollo, Alessandro Bessi+6 more|arXiv (Cornell University)|Oct 14, 2015

Misinformation and Its Impacts参考文献 24被引用数 26

ひとこと要約

本研究は、米国Facebook利用者5400万人を対象に5年間にわたり、科学的コンテンツと陰謀論的コンテンツの相互作用に焦点を当て、オンラインでの事実確認の有効性を分析している。その結果、事実確認の取り組みはほとんど効果がなく、陰謀論的コンテンツを消費するユーザーのわずか数％しか事実確認投稿に反応せず、反応するユーザーですら陰謀論のエコオーシャン内でエンゲージメントを増加させる傾向にあり、是正情報に対して心理的抵抗が生じていることが示唆される。

ABSTRACT

Recently a simple military exercise on the Internet was perceived as the beginning of a new civil war in the US. Social media aggregate people around common interests eliciting a collective framing of narratives and worldviews. However, the wide availability of user-provided content and the direct path between producers and consumers of information often foster confusion about causations, encouraging mistrust, rumors, and even conspiracy thinking. In order to contrast such a trend attempts to extit{debunk} are often undertaken. Here, we examine the effectiveness of debunking through a quantitative analysis of 54 million users over a time span of five years (Jan 2010, Dec 2014). In particular, we compare how users interact with proven (scientific) and unsubstantiated (conspiracy-like) information on Facebook in the US. Our findings confirm the existence of echo chambers where users interact primarily with either conspiracy-like or scientific pages. Both groups interact similarly with the information within their echo chamber. We examine 47,780 debunking posts and find that attempts at debunking are largely ineffective. For one, only a small fraction of usual consumers of unsubstantiated information interact with the posts. Furthermore, we show that those few are often the most committed conspiracy users and rather than internalizing debunking information, they often react to it negatively. Indeed, after interacting with debunking posts, users retain, or even increase, their engagement within the conspiracy echo chamber.

研究の動機と目的

• ソーシャルメディアにおける誤情報に反対するオンライン事実確認キャンペーンの有効性を調査すること。
• Facebookにおける科学的コンテンツと陰謀論的コンテンツの消費行動を分析すること。
• 事実確認の取り組みが誤ったナラティブへの関与を減らすのか、あるいは既存の信念を強化するのかを検証すること。
• オンラインのエコオーシャンにおける誤情報是正の構造的・心理的障壁を特定すること。
• 陰謀論エコオーシャンに属するユーザーが事実確認コンテンツに対して肯定的または否定的に反応するかを評価すること。

提案手法

• 2010年1月から2014年12月までの5年間にわたり、米国在住のFacebookユーザー5400万人を対象に定量的分析を実施した。
• コンテンツおよび自己記述に基づき、Facebookページを3つのカテゴリーに分類した：科学的ニュース、陰謀論的ニュース、事実確認ページ。
• 科学的ニュースページを83件、陰謀論的ニュースページを330件特定し、そのうち65件は陰謀論の事実確認に専念していた。
• 47,780件の事実確認投稿に対するユーザーの関与を追跡し、関与度と行動の変化を測定した。
• ネットワーク解析およびコミュニティ検出手法を用いて、エコオーシャンの特定および科学的コンテンツと陰謀論的コンテンツの消費者間の分離状況を同定した。
• 関与パターンを分析し、各コミュニティのユーザーが事実確認コンテンツに対してどのように反応するかを比較した。

実験結果

リサーチクエスチョン

• RQ1 エコオーシャンに属するユーザーは、Facebookにおいて科学的コンテンツと陰謀論的コンテンツの消費においてどのように異なるか？
• RQ2 陰謀論的コンテンツを消費するユーザーのうち、どの程度が事実確認投稿に反応するか？
• RQ3 事実確認コンテンツへの関与は、陰謀論エコオーシャンでの関与を減らすのか、それとも信念の強化を助けるのか？
• RQ4 事実確認の取り組みが限定的である理由を説明する心理的または社会的要因は何か？
• RQ5 科学的コミュニティと陰謀論コミュニティにおける事実確認コンテンツの消費者の行動パターンにはどのような相違があるか？

主な発見

• ユーザーの顕著な大多数が、科学的コンテンツと陰謀論的コンテンツのコミュニティ間で極めて分離されたエコオーシャンに根付いており、両者の間での相互関与はほとんどない。
• 陰謀論的コンテンツを定期的に消費するユーザーのわずか数％しか事実確認投稿に反応せず、是正メッセージの到達範囲が小さいことが示唆される。
• 事実確認投稿に反応するユーザーの間では、陰謀論エコオーシャンでの関与が安定または増加しており、逆効果の兆候が見られる。
• 事実確認投稿に反応するユーザーは、しばしば最も強いコミットメントを持つ陰謀論消費者であることが判明し、事実確認が既存の信念を強化するだけであり、是正にはならない可能性がある。
• 本研究は、心理的保守主義と確認バイアスが、事実が提供されても誤情報の持続に中心的な役割を果たしていることを確認した。
• 事実確認の取り組みは、最も脆弱で信念が強いユーザーの行動に到達も変化ももたらさないため、誤情報の拡散を減らすことができない。