[論文レビュー] Conspiracy in the Time of Corona: Automatic detection of Covid-19 Conspiracy Theories in Social Media and the News

Shadi Shahsavari, Pavan Holur+2 more|arXiv (Cornell University)|Apr 28, 2020

Misinformation and Its Impacts参考文献 46被引用数 30

ひとこと要約

本研究は、グラフィカルな叙事モデルを用いて、ソーシャルメディア（Redditと4Chan）およびニュース（GDELT）上のCovid-19陰謀論を自動的に検出・追跡し、物語が領域を絡み合わせ、時間とともに進化する様子を明らかにする。

ABSTRACT

Rumors and conspiracy theories thrive in environments of low confidence and low trust. Consequently, it is not surprising that ones related to the Covid-19 pandemic are proliferating given the lack of any authoritative scientific consensus on the virus, its spread and containment, or on the long term social and economic ramifications of the pandemic. Among the stories currently circulating are ones suggesting that the 5G network activates the virus, that the pandemic is a hoax perpetrated by a global cabal, that the virus is a bio-weapon released deliberately by the Chinese, or that Bill Gates is using it as cover to launch a global surveillance regime. While some may be quick to dismiss these stories as having little impact on real-world behavior, recent events including the destruction of property, racially fueled attacks against Asian Americans, and demonstrations espousing resistance to public health orders countermand such conclusions. Inspired by narrative theory, we crawl social media sites and news reports and, through the application of automated machine-learning methods, discover the underlying narrative frameworks supporting the generation of these stories. We show how the various narrative frameworks fueling rumors and conspiracy theories rely on the alignment of otherwise disparate domains of knowledge, and consider how they attach to the broader reporting on the pandemic. These alignments and attachments, which can be monitored in near real-time, may be useful for identifying areas in the news that are particularly vulnerable to reinterpretation by conspiracy theorists. Understanding the dynamics of storytelling on social media and the narrative frameworks that provide the generative basis for these stories may also be helpful for devising methods to disrupt their spread.

研究の動機と目的

• 低信頼な情報環境におけるCovid-19陰謀論の広がりと現実世界への影響の大きさを動機づけとして研究を促す。
• 陰謀論を生み出す根底にある物語枠組みを明らかにする自動化パイプラインを提案する。
• ソーシャルメディアの物語とニュース報道の相互作用を分析し、ほぼリアルタイムのダイナミクスを監視する。
• 物語クラスターを特定し、理論がどのように核形成し、整列し、プラットフォーム間で拡散するかを追跡する。

提案手法

• 作用者を含むグラフィカルなネットワークとして物語をモデル化し、関係でラベル付けされたエッジと、関係の分布を形作る文脈を持つグラフィカルネットワークとして物語をモデル化する。
• 依存解析と意味役割付与を用いて、文からパターンタプル（arg1, rel, arg2）を抽出し、BERT埋め込みを用いて名詞句を文脈グループにクラスタリングする。
• サブノード（文脈グループ）とエッジを構築して、フレームワークを表すラベル付き・重み付きの叙事グラフを作成する。
• Louvain法ベースの手法を用いて重複構造を有するコミュニティを検出し、叙事ネットワーク内の領域特有のクラスターを明らかにする。
• ローリング5日間ウィンドウでソーシャルメディアデータ（4Chan、Reddit）とニュースデータ（GDELT）を集約し、情報の流れを比較・監視する。
• 標準的なクラスタリング指標を用いて、ソーシャルメディア由来のフレームワークとニュース由来のグラフを照合してコミュニティを評価する。

実験結果

リサーチクエスチョン

• RQ1 ソーシャルメディアにおけるCovid-19陰謀論の背後にある物語的枠組みは何であり、これらの枠組みはニュース報道とどのように結びつくのか？
• RQ2 時間とともにアクターとそれらの関係がどのように再配置され、プラットフォーム間で陰謀論を形成・核化・包含するのか？
• RQ3 ほぼリアルタイムのパイプラインは、ソーシャルメディアとニュース間の陰謀論の物語のダイナミクスと流れを明らかにできるか。
• RQ4 ソーシャルメディアの叙事ネットワークにはどのようなコミュニティが出現し、それらはニュース記事の内容で観察されるパターンとどのように対応するか？

主な発見

• このパイプラインは、ソーシャルメディアコープスにおいて52のコミュニティを特定し、多様な知識領域を表している。
• 陰謀論はしばしば異なる領域を結びつけ、より大きな、全体的な物語を形成し、反ワクチン運動などのテーマと結びつくことがある。
• 新しい理論が出現し（例: 5Gを根本原因とする等）、既存の理論が核化したり他と統合したりする。
• ソーシャルメディアコミュニティとニュース報告の間で情報の流れを測定でき、二つのコーパス間で時間相関のあるパターンが見られる。
• 日次の監視により叙事グラフの浮沈を捉え、陰謀論者による再解釈の脆弱性があるニュース領域を浮き彫りにする。