[論文レビュー] Soros, Child Sacrifices, and 5G: Understanding the Spread of Conspiracy Theories on Web Communities

Pujan Paudel, Jeremy Blackburn+3 more|arXiv (Cornell University)|Nov 3, 2021

Misinformation and Its Impacts被引用数 4

ひとこと要約

本論文では、189件のSnopes検証済みの主張を用いて、RedditとTwitterの両方で陰謀論の議論を検出・分析するためのマルチプラットフォーム型のラーニング・トゥ・ランクパイプラインを提示する。その結果、/r/worldnews や /r/politics といった主流のサブレdditコミュニティが、陰謀論に特化したコミュニティよりも、陰謀論の拡散に影響力を持つことが判明した。陰謀論に特化したコミュニティは主に詳細なディスカッションに専念しているが、その影響範囲は限定的である。

ABSTRACT

This paper presents a multi-platform computational pipeline geared to identify social media posts discussing (known) conspiracy theories. We use 189 conspiracy claims collected by Snopes, and find 66k posts and 277k comments on Reddit, and 379k tweets discussing them. Then, we study how conspiracies are discussed on different Web communities and which ones are particularly influential in driving the discussion about them. Our analysis sheds light on how conspiracy theories are discussed and spread online, while highlighting multiple challenges in mitigating them.

研究の動機と目的

• ソーシャルメディアにおける陰謀論の議論を、スケーラブルでクロスプラットフォームな手法で検出するための開発。
• 異なるオンラインコミュニティがどのように陰謀論を議論・拡散しているかを理解すること。
• 特定の陰謀論を最も広く拡散させるコミュニティを同定すること。
• 異なるプラットフォーム間でのトキシシティおよび言語の多様性が、陰謀的ディス course に果たす役割を評価すること。

提案手法

• テキストおよびエンゲージメントパターンから得られる特徴を用いて、ラーニング・トゥ・ランクモデルを訓練し、陰謀論関連コンテンツを同定する。
• 7つのRedditサブレdditおよびTwitterにパイプラインを適用し、189件のSnopes検証済み陰謀論主張を正例として使用。
• テキスト埋め込みおよび言語分析を用いて、陰謀論志向コミュニティと一般関心型コミュニティの言語スタイルを比較する。
• ハクス過程を用いて、コミュニティがより広範な陰謀論ディスカッションを引き起こす影響力をモデリングおよびランク付けする。
• データ収集期間は2016年から2021年までで、合計66,274件のReddit投稿、288,721件のコメント、379,708件のツイートをカバー。
• パイプラインは良好に一般化される：Redditデータで学習したモデルはTwitterでも高い性能を示し、クロスプラットフォーム検出を可能にする。

実験結果

リサーチクエスチョン

• RQ1 異なるオンラインコミュニティは、持続期間、トキシシティ、言語使用の観点から、陰謀論の議論においてどのように異なるか？
• RQ2 どのWebコミュニティがプラットフォーム全体で陰謀論を最も広く拡散させているか？
• RQ3 陰謀論志向のサブレdditは、一般関心型コミュニティと比べてどの程度ディスコーススタイルが異なるか？
• RQ4 コミュニティ間で陰謀的ディスカッションの言語パターンはどのように異なるのか？また、それらは参加の深さを何を示しているか？
• RQ5 あるプラットフォーム（例：Reddit）で学習したモデルは、別のプラットフォーム（例：Twitter）で陰謀論ディスカッションを効果的に検出できるか？

主な発見

• RedditおよびTwitterにおける陰謀論ディスカッションの80％が1年以上にわたり継続しており、こうしたナラティブの長期的持続性が示唆される。
• 陰謀論ディスカッションに特化したRedditのコメントは、一般コミュニティのディスカッションよりも毒性が高かったが、陰謀論投稿自体は最も毒性が低かった。
• 陰謀論志向のサブレddit、たとえば /r/conspiracy は詳細かつ調査的なディスカッションを展開しているが、/r/worldnews や /r/Conservative などの主流サブレdditは主に主張の報道および引用に特化している。
• /r/worldnews および /r/politics は、Covid-19関連の陰謀論を最も広く拡散させている。
• /r/Conservative はトランプ関連の陰謀論において最も影響力があり、/r/democrats は同様の主張において最も影響力が弱い。
• 主流コミュニティが陰謀論拡散の大部分を担っており、専用の陰謀論サブレdditは外部への影響が限定的で、エコーサンドイッチの役割を果たしている。