[論文レビュー] Detecting Propagators of Disinformation on Twitter Using Quantitative Discursive Analysis

Mark M. Bailey|arXiv (Cornell University)|Oct 11, 2022

Misinformation and Its Impacts被引用数 4

ひとこと要約

本稿では、2016年米国大統領選挙期におけるTwitter上でのロシアのフェイクニュース拡散ボットを同定するため、センターインぐレゾナンス分析とClauset-Newman-Mooreコミュニティ検出法を用いた定量的ディスコース分析手法を提案する。分類において感度が高く、拡散者同士に強いディスコース的類似性が確認されたが、対照群の非ボットユーザーとの間にはディスコース的類似性が乏しく、非ボットの同定に困難を伴う。

ABSTRACT

Efforts by foreign actors to influence public opinion have gained considerable attention because of their potential to impact democratic elections. Thus, the ability to identify and counter sources of disinformation is increasingly becoming a top priority for government entities in order to protect the integrity of democratic processes. This study presents a method of identifying Russian disinformation bots on Twitter using centering resonance analysis and Clauset-Newman-Moore community detection. The data reflect a significant degree of discursive dissimilarity between known Russian disinformation bots and a control set of Twitter users during the timeframe of the 2016 U.S. Presidential Election. The data also demonstrate statistically significant classification capabilities (MCC = 0.9070) based on community clustering. The prediction algorithm is very effective at identifying true positives (bots), but is not able to resolve true negatives (non-bots) because of the lack of discursive similarity between control users. This leads to a highly sensitive means of identifying propagators of disinformation with a high degree of discursive similarity on Twitter, with implications for limiting the spread of disinformation that could impact democratic processes.

研究の動機と目的

• 2016年米国大統領選挙期におけるTwitter上でのフェイクニュース拡散者の同定を目的とする。
• ディスコースパターンを用いてフェイクニュース拡散ボットと正当なユーザーを区別する課題に取り組む。
• 言語的およびネットワーク的構造を活用して、一貫したフェイクニュース拡散キャンペーンを検出する手法を開発することを目的とする。
• 高い感度でボット行動を分類するための定量的ディスコース分析の有効性を評価することを目的とする。

提案手法

• ユーザー生成コンテンツにおけるディスコースの整合性と焦点をモデル化するため、センターインぐレゾナンス分析が適用される。
• 類似したディスコースパターンを持つユーザーのクラスタを特定するため、Clauset-Newman-Mooreコミュニティ検出法が用いられる。
• 既知のロシアのフェイクニュース拡散ボットと非ボットユーザー対照群との間のディスコース的類似性が定量的に測定される。
• ユーザー間のディスコース的トレースを比較し、一貫したボット活動を示す高類似性のコミュニティを検出する。
• コミュニティクラスタを訓練データとして用い、ディスコース構造に基づいてボット状態を予測する分類モデルが構築される。
• 本手法は、言語的整合性とネットワーククラスタリングの統計的分析に依存し、フェイクニュース拡散者を特定することに特化している。

実験結果

リサーチクエスチョン

• RQ1 2016年米国大統領選挙期におけるTwitter上でのロシアのフェイクニュース拡散ボットと非ボットユーザーを、ディスコース的類似性パターンによって効果的に区別できるか？
• RQ2 既知のフェイクニュース拡散ボットは、対照群ユーザーと比較して、統計的に有意なディスコース的整合性を示す程度はどの程度か？
• RQ3 ディスコースパターンに基づくコミュニティクラスタリングは、ボットアカウントの分類においてどの程度有効か？
• RQ4 本モデルは真陽性（実際にボットであるユーザー）を高い感度で同定できるが、なぜ対照群における真陰性を同定できないのか？
• RQ5 これらの発見は、一貫したフェイクニュース拡散キャンペーンの検出および抑制にどのような意味を持つのか？

主な発見

• 本手法は、マシューズ相関係数（MCC）0.9070を達成し、強力な分類性能を示した。
• 既知のロシアのフェイクニュース拡散ボットと非ボットユーザー対照群との間で、顕著なディスコース的類似性の欠如が観察された。
• ボットクラスタ内での強いディスコース的類似性により、本モデルは真陽性（実際にボットであるユーザー）の同定において高い感度を示した。
• 真陰性を同定できない理由は、対照群ユーザー間におけるディスコース的類似性の欠如に起因し、これが陰性分類を制限している。
• 結果から、一貫したボットネットワークにおけるディスコース的整合性が、フェイクニュース拡散者の効果的同定を可能にすることが示唆された。
• 本研究は、定量的ディスコース分析が、高類似性クラスタにおける偽陰性を最小限に抑えてフェイクニュース拡散者を同定する強力なツールとなり得ることを確認した。