[論文レビュー] The Interconnected Nature of Online Harm and Moderation: Investigating the Cross-Platform Spread of Harmful Content between YouTube and Twitter

Valerio La Gatta, Luca Luceri+2 more|arXiv (Cornell University)|Apr 3, 2023

Hate Speech and Cyberbullying Detection被引用数 6

ひとこと要約

本研究は、ポリシー違反のため削除されたYouTube動画が、どのようにしてTwitter上で体系的に共有されているかを調査し、有害なコンテンツを促進するユーザーの多くが、極右・陰謀論的イデオロギーを有する通常のユーザーであり、後にアカウント停止処分を受けていることが明らかになった。研究結果は、複数プラットフォーム間でのコンテンツ拡散を示しており、有害コンテンツの拡散を抑えるために、プラットフォーム間での連携したモデレーション戦略の必要性を示唆している。

ABSTRACT

The proliferation of harmful content shared online poses a threat to online information integrity and the integrity of discussion across platforms. Despite various moderation interventions adopted by social media platforms, researchers and policymakers are calling for holistic solutions. This study explores how a target platform could leverage content that has been deemed harmful on a source platform by investigating the behavior and characteristics of Twitter users responsible for sharing moderated YouTube videos. Using a large-scale dataset of 600M tweets related to the 2020 U.S. election, we find that moderated Youtube videos are extensively shared on Twitter and that users who share these videos also endorse extreme and conspiratorial ideologies. A fraction of these users are eventually suspended by Twitter, but they do not appear to be involved in state-backed information operations. The findings of this study highlight the complex and interconnected nature of harmful cross-platform information diffusion, raising the need for cross-platform moderation strategies.

研究の動機と目的

• YouTubeのポリシー違反により削除された動画が、どの程度Twitterで共有されているかを調査すること。
• そのようなモデレーション対象動画を共有するユーザー（いわゆる「動員者」）のイデオロギー、行動、プラットフォーム内での関与度を特徴づけること。
• これらの動員者がボットか国家支援のアクターか、それとも通常のユーザーかを特定し、そのコンテンツの拡散範囲と関与度を評価すること。
• 削除済みYouTube動画の複数プラットフォーム間での共有が、孤立したモデレーションアプローチに内在するシステム的脆弱性を示しているかどうかを評価すること。
• 動員者の行動的・イデオロギー的パターンを分析することで、複数プラットフォーム間での連携モデレーション戦略の設計を支援すること。

提案手法

• 2020年米国大統領選挙に関連する6億件のツイートを含む大規模データセットを用い、YouTube動画の共有を同定した。
• YouTube APIを活用してメタデータを取得し、共有された動画がYouTubeでフラグ付きまたは削除済みかどうかを特定した。
• Twitterユーザーを2つのグループに分類した：非モデレーション対象YouTube動画を主に共有するユーザー（NMYT動員者）と、モデレーション対象YouTube動画を主に共有するユーザー（MYT動員者）。
• オリジナルツイートとリツイートを区別することで、ユーザー行動を「能動的共有」と「受動的共有」のパターンに分類した。
• 言語的および関与度指標を用いて動員者の政治的イデオロギーを評価した結果、MYT動員者は極右およびトランプ支持の傾向が強く、顕著に一致していた。
• Twitterのアカウント停止状況を評価することで、動員者がプラットフォームのモデレーションシステムによってマークされたかどうかを特定した。

実験結果

リサーチクエスチョン

• RQ1 モデレーション対象のYouTube動画がTwitterで共有される際の、普及度、存続期間、拡散範囲はどの程度か？
• RQ2 モデレーション対象YouTube動画を動員するユーザーの特徴は何か？非モデレーション対象動画を動員するユーザーとはどのように異なるか？
• RQ3 モデレーション対象YouTube動画を動員するユーザーは、広範なTwitterユーザー層から顕著な関与を受けるか？
• RQ4 モデレーション対象YouTubeコンテンツを動員するユーザーは、主にボット、国家支援のアクター、それとも通常のユーザーか？
• RQ5 モデレーション対象動画と非モデレーション対象動画を共有するユーザーのイデオロギー的傾向には、どのような違いがあるか？

主な発見

• 2020年米国大統領選挙期間中にTwitterで共有されたYouTube動画の24.7％は、YouTubeで削除またはフラグ付き処理されていた。これは、有害コンテンツが広範にわたって複数プラットフォームに拡散されていることを示している。
• モデレーション対象YouTube動画は、非モデレーション対象動画よりも顕著に高い拡散範囲と関与度を示しており、ターゲットプラットフォーム上で拡大効果が発生している可能性がある。
• モデレーション対象YouTube動画を動員するユーザーは、主に通常のTwitterユーザーであり、オリジナル投稿ではなく、受動的にリツイートする行動を取っていた。これは、低生産性だが高拡散性の行動を示している。
• モデレーション対象YouTube動画を動員するユーザーの半数以上が、ボットや国家支援のアクターとして特定されないまま、Twitterによってアカウント停止処分を受けた。
• モデレーション対象動画を動員するユーザーは、極右イデオロギーと強く関連しており、2020年米国大統領選挙期に一貫してドナルド・トランプを支持していた。一方、非モデレーション対象動画を動員するユーザーは、より多様な政治的嗜好を示していた。
• 両グループの動員者は強い内的結束を示し、広範なTwitterユーザー層からの関与度も同等であった。これは、コンテンツのモデレーション状況に関わらず、イデオロギー的整合性が可視性を決定づける要因であることを示している。