[論文レビュー] Characterizing Online Engagement with Disinformation and Conspiracies in the 2020 U.S. Presidential Election

Karishma Sharma, Emilio Ferrara+1 more|arXiv (Cornell University)|Jul 17, 2021

Misinformation and Its Impacts参考文献 26被引用数 4

ひとこと要約

本研究では、2020年6月から9月にかけての2億4200万件の選挙関連ツイートを分析し、訓練済みのCSIモデル（AUC 0.8、F1 0.76）を用いて、特にQAnon関連コンテンツを含むフェイクニュースおよび陰謀論的ナラティブを検出・特徴づける。フェイクニュースのツイートは信頼できるコンテンツほど拡散されないが、QAnonアカウントは左派寄りのユーザーと顕著に関与し、7月にTwitterがQAnonを禁止した後、ハッシュタグの変更や既存アカウントへの依存を図り、行動の変化を示した。回帰不連続デザインを用いた分析により、その行動変化は統計的に有意であることが確認された。

ABSTRACT

Identifying and characterizing disinformation in political discourse on social media is critical to ensure the integrity of elections and democratic processes around the world. Persistent manipulation of social media has resulted in increased concerns regarding the 2020 U.S. Presidential Election, due to its potential to influence individual opinions and social dynamics. In this work, we focus on the identification of distorted facts, in the form of unreliable and conspiratorial narratives in election-related tweets, to characterize discourse manipulation prior to the election. We apply a detection model to separate factual from unreliable (or conspiratorial) claims analyzing a dataset of 242 million election-related tweets. The identified claims are used to investigate targeted topics of disinformation, and conspiracy groups, most notably the far-right QAnon conspiracy group. Further, we characterize account engagements with unreliable and conspiracy tweets, and with the QAnon conspiracy group, by political leaning and tweet types. Finally, using a regression discontinuity design, we investigate whether Twitter's actions to curb QAnon activity on the platform were effective, and how QAnon accounts adapt to Twitter's restrictions.

研究の動機と目的

• 米国2020年選挙におけるTwitter上でのフェイクニュースおよび陰謀論的ナラティブを特定・特徴づけること。
• 信頼性の低いコンテンツおよび陰謀論的コンテンツの拡散ダイナミクス、特にQAnonからの影響を、カバレッジ、関与パターン、拡散ダイナミクスの観点から調査すること。
• Twitterの2020年7月のQAnon禁止措置の有効性を、行動の適応と持続的関与の観点から分析すること。
• 政治的傾向、ツイートタイプ、アカウント活動がフェイクニュースおよび陰謀論的コンテンツへの関与に与える影響を理解すること。

提案手法

• テキスト、時間的要因、アカウントの疑わしさの特徴を用いて、CSI（クロスソースインファレンス）モデルを訓練・適用し、ツイートを事実性あり／信頼性の低い／陰謀論的と分類した。
• 2020年6月20日から9月6日までの間に収集された2億4200万件の選挙関連ツイートのデータセットを用いた。
• TwitterのQAnon禁止措置による因果的影響を推定するために、回帰不連続デザイン（RDD）を用い、介入日周辺でのハッシュタグ使用の変化をモデル化した。
• キャスケードの広がり方を、キャスケードの広がり具合（cascade breath）と「固有のアカウントに到達するまでの時間」の指標を用いて、信頼性の低い／陰謀論的コンテンツと信頼できるコンテンツの拡散ダイナミクスを比較した。
• 保留されたテストセットを用いてモデルの性能を検証し、AUC（0.8）とF1（0.76）を達成した。
• QAnonが左派寄りのユーザーのツイートに意図的に返信することで「レッドピル化」を促進する戦略的関与を、政治的傾向とツイートタイプごとに関与パターンとして分析した。

実験結果

リサーチクエスチョン

• RQ1 米国2020年選挙に先立って、Twitter上に広がっていた主なフェイクニュースおよび陰謀論的ナラティブは何か？
• RQ2 フェイクニュースおよび陰謀論グループの影響力と拡散範囲は、アカウントの関与、政治的傾向、ツイートタイプ、拡散ダイナミクスの観点からどの程度顕著か？
• RQ3 TwitterのQAnonに対する制限措置は、その活動に影響を与え、陰謀論の拡散を制限する効果があったか？

主な発見

• CSIモデルは、選挙関連ツイートにおける信頼性の低い主張および陰謀論的主張を検出する際、AUC 0.8、F1スコア 0.76を達成した。
• 最も顕著なフェイクニュースのトピックには、郵送投票の不正、COVID-19、ブラックライブズマター、マスコミの検閲、政治的候補者に関する虚偽の主張が含まれた。
• フェイクニュースのツイートは信頼できるコンテンツほど拡散されず、固有のアカウントに到達するまでの平均時間が長く、平均的なキャスケードの広がり具合（breath）も小さかった。
• 全アカウントの85.43％（1040万件）がQAnonに一切関与しなかったが、120万件の最も活発なアカウントではこの割合が34.42％に低下した。
• QAnonアカウントは、左派寄りのユーザーに意図的に返信することで「レッドピル化」を促進しており、影響力拡大を狙った戦略的行動が示された。
• 回帰不連続デザインを用いた分析により、禁止後におけるハッシュタグの採用に統計的に有意な変化が認められ、持続的な関与は主に禁止前までに作成されたアカウントによって駆動されていた。