[論文レビュー] Exposing Cross-Platform Coordinated Inauthentic Activity in the Run-Up to the 2024 U.S. Election

Federico Cinus, Marco Minici+2 more|arXiv (Cornell University)|Oct 30, 2024

Electoral Systems and Political Participation被引用数 4

ひとこと要約

本研究は、X（旧Twitter）、Facebook、Telegramの3プラットフォームを対象として、2024年米国大統領選挙における体制的な不正な活動（CoIA）を同定するクロスプラットフォーム連携検出モデルを開発した。共有コンテンツおよびエンゲージメントパターンの類似性ネットワークを分析することで、ロシア関連メディア、派閥的ナラティブ、信頼性の低いコンテンツの体系的な拡散が明らかになった。CoIAは複数のプラットフォームにまたがって存在し、フェイクニュースの拡大を著しく助長していることが示された。

ABSTRACT

Coordinated information operations remain a persistent challenge on social media, despite platform efforts to curb them. While previous research has primarily focused on identifying these operations within individual platforms, this study shows that coordination frequently transcends platform boundaries. Leveraging newly collected data of online conversations related to the 2024 U.S. Election across $\mathbb{X}$ (formerly, Twitter), Facebook, and Telegram, we construct similarity networks to detect coordinated communities exhibiting suspicious sharing behaviors within and across platforms. Proposing an advanced coordination detection model, we reveal evidence of potential foreign interference, with Russian-affiliated media being systematically promoted across Telegram and $\mathbb{X}$. Our analysis also uncovers substantial intra- and cross-platform coordinated inauthentic activity, driving the spread of highly partisan, low-credibility, and conspiratorial content. These findings highlight the urgent need for regulatory measures that extend beyond individual platforms to effectively address the growing challenge of cross-platform coordinated influence campaigns.

研究の動機と目的

• 単一のソーシャルメディアプラットフォームを越えて発生する協調的で不正な活動（CoIA）の増加する脅威に対処すること。特に米国大統領選挙の文脈において。
• 特定のウェブドメインへ向けたトラフィック誘導を目的とした、プラットフォーム内およびクロスプラットフォームのCoIAネットワークを同定すること。
• CoIAのエンゲージメントダイナミクスを、自然なユーザー活動と比較して、体制的なキャンペーンの規模と影響を評価すること。
• 単一プラットフォーム分析を超えた検出技術を発展させ、体制的なインフルエンス作戦の全容を捉えること。
• 包括的なフェイクニュース脅威に立ち向かうために、クロスプラットフォームの規制的・技術的対策の緊急性を強調すること。

提案手法

• X、Facebook、Telegramの3プラットフォームにおいて、共有コンテンツ、ハッシュタグ、リンク使用の類似性に基づいて類似性ネットワークを構築し、協調的コミュニティを検出する。
• 同期的な投稿や共通活動パターンを特定する高度な連携検出モデルを適用し、CoIAを同定する。
• 言語モデルを用いてコンテンツ特性を分析し、陰謀論的、派閥的、信頼性の低いナラティブを特定する。
• 2024年米国大統領選挙の前哨戦期に収集された、大規模かつ多プラットフォームにわたる選挙関連会話データセットを活用する。
• ウェブドメイン追跡を統合し、外国関連メディアに結びついた特定の外部ウェブサイトへの一斉的誘導を検出する。
• 協調的アカウントのエンゲージメント指標（例：いいね、シェア、リーチ）を、自然なユーザーと比較して、拡大効果を評価する。

Figure 1 . Cross-platform coordination network showing user coordination across four social media networks.

実験結果

リサーチクエスチョン

• RQ1 RQ 1: 特定のウェブドメインへ向けたトラフィック誘導を目的としたプラットフォーム内およびクロスプラットフォームのCoIAは観察されるか？協調的アカウントの特徴は何か？ どの具体的なドメインが促進されているか？
• RQ2 RQ 2: 特定のナラティブを拡散するCoIAは観察されるか？協調的アカウントの特徴は何か？ どの具体的なトピックが拡大されているか？
• RQ3 RQ 3: CoIAはさまざまなプラットフォームでどの程度のエンゲージメントを生み出しているか？ また、自然なユーザーが得るエンゲージメントと比べてどうか？
• RQ4 RQ 4: ロシア関連メディア機関はクロスプラットフォームCoIAネットワークにおいて果たす役割は何か？
• RQ5 RQ 5: 協調的ネットワークは、プラットフォームの違いをどのように活用して陰謀論的または信頼性の低いコンテンツを拡大しているか？

主な発見

• 本研究は、TelegramとXでロシア関連メディアを広める複数の協調的ネットワークを同定し、2024年米国大統領選挙の議論における体系的な外国干渉を示した。
• 協調的で不正な活動は、偏ったナラティブ、信頼性の低いコンテンツ、およびフラットアース理論、ユダヤ人嫌いのナラティブ、選挙不正の主張など、陰謀論的コンテンツを体系的に拡散していることが判明した。
• 「トランプ裁判」、「ウクライナ＝ロシア紛争」、「鳥インフルエンザ」、「聖書の引用」などの特定トピックが、TelegramとXの協調的ネットワークを通じて強く促進されていた。
• 協調的アカウントは自然なユーザーと比較して著しく高いエンゲージメントを生み出し、同期的な投稿やハッシュタグの協調によって一部のネットワークがウイルス的リーチを達成していた。
• 分析から、クロスプラットフォーム連携により、単一プラットフォーム検出システムの範囲を超えてフェイクニュースが拡散されていることが明らかになった。
• 本研究は、協調的行動が一つのプラットフォームに限定されていないことを示しており、特に高感受性な政治的トピックに近い時期に、X、Facebook、Telegramの間で同期的な活動が確認された。

(a) Telegram