[論文レビュー] Coordinating Narratives and the Capitol Riots on Parler

Lynnette Hui Xian Ng, Iain J. Cruickshank+1 more|arXiv (Cornell University)|Sep 2, 2021

Misinformation and Its Impacts参考文献 17被引用数 7

ひとこと要約

本稿は、1月6日議会襲撃の前日にパラー（Parler）上で組織的な誤情報ネットワークを特定するためのテキストベースの協調検出手法を提案する。テキスト類似性とユーザ間の協調ネットワークを用いて、軍人、パトリオット、QAnonの3つの影響力のあるユーザクラスタを同定した。これらのクラスタは、選挙否定のナラティブを強化する形で協調的なメッセージを発信しており、特にQAnonユーザが最も高い到達率と関与度を示した。

ABSTRACT

Coordinated disinformation campaigns are used to influence social media users, potentially leading to offline violence. In this study, we introduce a general methodology to uncover coordinated messaging through analysis of user parleys on Parler. The proposed method constructs a user-to-user coordination network graph induced by a user-to-text graph and a text-to-text similarity graph. The text-to-text graph is constructed based on the textual similarity of Parler posts. We study three influential groups of users in the 6 January 2020 Capitol riots and detect networks of coordinated user clusters that are all posting similar textual content in support of different disinformation narratives related to the U.S. 2020 elections.

研究の動機と目的

• 1月6日議会襲撃の時期にパラーで誤情報を広めている主要な人物を特定すること。
• 明示的なネットワークリンクに依存せずに、ユーザ間の協調的メッセージングを検出すること。
• 自らを軍人、パトリオット、QAnonと特定するユーザが、誤情報ナラティブをどのように形成・拡散させたかを分析すること。
• テキスト類似性を用いて、協調的ユーザのコアクラスタをスケーラブルに同定する手法を開発すること。
• 実世界の暴力を引き起こす可能性のある協調的オンラインキャンペーンの早期検出を支援すること。

提案手法

• パラー投稿からユーザ-テキストグラフを構築し、ユーザとそのコンテンツをマッピングする。
• 自然言語処理（NLP）技術を用いてテキスト-テキスト類似性グラフを構築し、意味的に類似した投稿を同定する。
• テキスト類似性グラフを仲介として、類似したコンテンツを投稿するユーザ同士をリンクさせることで、ユーザ-ユーザ協調ネットワークを誘導する。
• ネットワーク解析を適用し、テキスト的協調性が強いユーザのクラスタ（濃密な部分グラフ）を検出する。
• 次数中心性とリンク強度を用いて、協調ネットワーク内でのコアな参加者および影響力のあるクラスタを同定する。
• 任意のリンク重みの閾値に依存しないフィルタリング手法を適用し、コアな協調構造に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 パラー上での2020年米国大統領選挙関連の誤情報ナラティブを最も広めたのはどのユーザグループか？
• RQ2 明確なユーザ-ユーザネットワーク構造を備えていないソーシャルメディアプラットフォーム（例：パラー）において、どのように協調的メッセージングを検出できるか？
• RQ3 パラー上での協調的誤情報活動家と一般ユーザを区別するテキスト的および行動的パターンは何か？
• RQ4 自らを軍人、パトリオット、QAnonと特定するユーザが、誤情報コンテンツをどれほど同期的に投稿しているか？
• RQ5 誘導されたユーザ-ユーザ協調ネットワークは、協調的参加者のコアクラスタをどのように明らかにするか？

主な発見

• QAnonユーザは、平均値を大幅に上回るインプレッション数を記録し、最も高い到達率と関与度を示した。
• 軍人およびパトリオットユーザも、一般的なユーザ投稿よりも広く共有されるなど、高い影響力を示した。
• 軍人、パトリオット、QAnonの3つのユーザグループは、選挙不正や「Stop the Steal」に関するナラティブを頻繁に類似した形で投稿し、強いテキスト的協調性を示した。
• 誘導されたユーザ-ユーザ協調ネットワークは、2020年の選挙集計やトランプ大統領の再選宣言をめぐり、一致した誤情報コンテンツを投稿する明確なユーザクラスタを明らかにした。
• 本手法は、複雑なネットワークをコアな協調構造に簡略化し、任意のリンク閾値に依存せずに影響力のある参加者を同定できた。
• 本研究では、アイデンティティに結びついたユーザ間で協調的メッセージングが広く見られ、誤情報ナラティブの拡散におけるアイデンティティベースの協調が示唆された。