[論文レビュー] A Synchronized Action Framework for Responsible Detection of Coordination on Social Media

Thomas Magelinski, Lynnette Hui Xian Ng+1 more|arXiv (Cornell University)|May 16, 2021

Misinformation and Its Impacts参考文献 18被引用数 7

ひとこと要約

本論文は、ユーザー間のハッシュタグ、URL、メンション使用などの複数の行動次元における同期的行動のマルチビュー・ネットワーク分析を通じて、ソーシャルメディア上での協調的活動の責任ある検出を目的とした「同期行動フレームワーク」を提案する。リオープン・アメリカのTwitter議論に適用した結果、3つの協調的キャンペーンが同定され、そのうち1つは、地理的に標的を絞った形で一貫性を持って抗議の言説を拡散する、複雑で陰性のネットワークを含む。

ABSTRACT

The study of coordinated manipulation of conversations on social media has become more prevalent as social media's role in amplifying misinformation, hate, and polarization has come under scrutiny. We discuss the implications of successful coordination detection algorithms based on shifts of power, and consider how responsible coordination detection may be carried out through synchronized action. We then propose a Synchronized Action Framework for detection of automated coordination through construction and analysis of multi-view networks. We validate our framework by examining the Reopen America conversation on Twitter, discovering three coordinated campaigns. We further investigate covert coordination surrounding the protests and find the task to be far more complex than examples seen in prior work, demonstrating the need for our multi-view approach. A cluster of suspicious users is identified and the activity of three members is detailed. These users amplify protest messages using the same hashtags at very similar times, though they all focus on different states. Through this analysis, we emphasize both the potential usefulness of coordination detection algorithms in investigating amplification, and the need for careful and responsible deployment of such tools.

研究の動機と目的

• 協調検出ツールが真の人の協調行動を誤って標的にする可能性があるという倫理的リスクに対処すること。
• 単一の行動や単一の視点に依存しない、責任あるマルチビュー手法を用いて、ソーシャルメディア上の協調行動を検出すること。
• 実世界のデータ、特にリオープン・アメリカ抗議活動における複雑で陰性の協調行動を検出するフレームワークの妥当性を検証すること。
• ハッシュタグやメンションの使用タイミングといった同期的行動が、個々に真実らしく見えるユーザーに対しても、協調的キャンペーンを明らかにできることを示すこと。
• 誤検出を低減し、微細な協調的インフルエンス作戦を改善して検出するため、複数行動・時間同期分析の重要性を強調すること。

提案手法

• ノードをユーザー、エッジを複数の行動次元（例：同じハッシュタグをほぼ同じ時刻に使用）における同期的行動で表すマルチビュー・ネットワークを構築する。
• 複数の行動タイプにわたる狭い時間窓内で同一または類似した行動を示すユーザーを特定する、同期行動検出メカニズムを用いる。
• 人気だが協調的でない行動（例：ウイルス的ハッシュタグ）による誤検出を低減するための重み付けスキームを適用し、協調構造を保持する。
• ハッシュタグ使用、URL共有、メンション活動といった複数の行動タイプを統合し、統合的分析を可能にするマルチビュー・ネットワークを構築する。
• マルチビュー・ネットワーク上でクラスタリング手法を用い、複数の次元にわたる同期的行動を示す異常なユーザー集団を同定する。
• リオープン・アメリカ抗議活動の大きなTwitterデータセットを用いてフレームワークを検証し、協調的行動の時間的整合性とネットワーク構造に注目する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、真の人の協調行動を傷つけることなく、協調検出を責任を持って行えるか？
• RQ2 単一ビューのネットワーク分析は、ソーシャルメディア上での複雑で陰性の協調行動をどの程度検出できないか？
• RQ3 ハッシュタグ、メンション、URLなどの複数の行動次元における同期的行動は、個別に分析した場合と比較して、協調的キャンペーンの検出をどの程度向上できるか？
• RQ4 従来の手法では検出が難しい協調的キャンペーンの構造的・時間的特徴は何か？
• RQ5 マルチビュー・ネットワーク分析は、実世界の抗議関連の会話において、疑わしいユーザークラスタの同定をどの程度向上させるか？

主な発見

• 同期行動フレームワークは、リオープン・アメリカのTwitter議論において3つの協調的キャンペーンを成功裏に検出しており、そのうち1つは、地理的に標的を絞った形で一貫性を持って抗議の言説を拡散する、陰性のネットワークを含む。
• フレームワークは、ほぼ同じ時刻に同じハッシュタグを使用し、同じアカウントをメンションする異常なユーザーのクラスタを同定した。このクラスタは、米国の異なる州に焦点を当てていた。
• リオープン・アメリカ抗議活動における陰性の協調行動は、以前に研究されたテンプレート型のキャンペーンよりもはるかに複雑であり、検出にはマルチビュー分析が不可欠である。
• 固定ウィンドウアプローチでは、均一な行動分布下で最大50％の潜在的接続が見逃されることがあるため、同期行動検出の必要性が浮き彫りになった。
• 人気のある行動を低減する重み付けスキームは誤検出を低減するが、ネットワーク構造をぼかすため、将来的な設計においては慎重な管理が必要であるというトレードオフが示された。
• フレームワークのマルチビュー手法は、単一ビュー分析を上回り、曇りのない検出精度を実現している。例えば、同じハッシュタグを使用する反対意見のユーザーを誤って分類するのを防ぐことで、検出の正確性が向上した。