[論文レビュー] Understanding Online Migration Decisions Following the Banning of Radical Communities

Giuseppe Russo, Manoel Horta Ribeiro+2 more|arXiv (Cornell University)|Dec 9, 2022

Hate Speech and Cyberbullying Detection被引用数 5

ひとこと要約

本研究は、RECRO極端化フレームワークの個人的および社会的要因が、コミュニティの禁止後、ユーザーが境界付けるプラットフォームに移行するか、禁止済みの主流プラットフォームと代替プラットフォームの両方に残留する意思決定にどのように影響するかを調査する。r/The_Donald および r/fatpeoplehate における2段階回帰分析の結果、個人レベルの自己認識要因（例：毒性、感情的傾向）が移行を駆動する一方で、社会的つながり要因（例：事前に移行済みユーザーとの相互作用）が共同活動（coactivity）を増加させることを明らかにした。これにより、プラットフォーム移行と二重プラットフォーム活動の背後にある動機が異なることが示された。

ABSTRACT

The proliferation of radical online communities and their violent offshoots has sparked great societal concern. However, the current practice of banning such communities from mainstream platforms has unintended consequences: (I) the further radicalization of their members in fringe platforms where they migrate; and (ii) the spillover of harmful content from fringe back onto mainstream platforms. Here, in a large observational study on two banned subreddits, r/The\_Donald and r/fatpeoplehate, we examine how factors associated with the RECRO radicalization framework relate to users' migration decisions. Specifically, we quantify how these factors affect users' decisions to post on fringe platforms and, for those who do, whether they continue posting on the mainstream platform. Our results show that individual-level factors, those relating to the behavior of users, are associated with the decision to post on the fringe platform. Whereas social-level factors, users' connection with the radical community, only affect the propensity to be coactive on both platforms. Overall, our findings pave the way for evidence-based moderation policies, as the decisions to migrate and remain coactive amplify unintended consequences of community bans.

研究の動機と目的

• 主流プラットフォームでのコミュニティ禁止後に、ユーザーが境界付けるプラットフォームに移行する要因を理解すること。
• ユーザーの共同活動（主流プラットフォームと境界プラットフォームの両方で投稿すること）が個人的および社会的要因とどのように関連するかを分析すること。
• 極端化コミュニティの禁止が、予期しない結果をもたらす可能性を評価すること。具体的には、極端化の増加や有害コンテンツの拡散が生じるかどうか。
• RECROフレームワーク要因の中で、移行や共同活動を予測する要因を特定することで、根拠に基づいたモデレーション政策の立案を支援すること。

提案手法

• 2段階回帰分析を実施し、ユーザーの意思決定をモデル化する：（1）境界プラットフォームへの移行、（2）両プラットフォームでの共同活動。
• r/The_Donald および r/fatpeoplehate からのユーザー行動指標を、RECROフレームワーク要因の代理指標として使用：反省（toxicity, emotionality）、探求（interestsの多様性、関与度）、つながり（事前に禁止されたユーザーとの相互作用、最近加入者）。
• ロジスティック回帰モデルを適用し、RECRO要因に基づいて移行および共同活動の確率を推定する。
• ユーザーを4つの行動カテゴリーに分類：MPのみ、FPのみ、共同活動、非活動。
• ユーザーのデモグラフィック要因およびプラットフォーム固有の行動を制御することで、RECRO要因の影響を明確に分離する。
• 異なるイデオロギーを持つ2つの別々の禁止済みサブレートを用いて、結果の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 RECROフレームワークのどの個人的要因が、コミュニティ禁止後に境界プラットフォームへの移行を予測するか？
• RQ2 社会的要因、特に禁止済みコミュニティ内の他のユーザーとの相互作用が、主流プラットフォームと境界プラットフォームの両方での共同活動の可能性にどのように影響するか？
• RQ3 ユーザーのオンライン関心の多様性（探求要因）は、禁止後も主流プラットフォームで活動を続ける意思決定にどの程度影響を及ぼすか？
• RQ4 禁止済みコミュニティの事前に移行済みメンバーと相互作用したユーザーは、両プラットフォームでの共同活動が高くなるか、低くなるか？

主な発見

• オンラインでの毒性（TOX）および感情的傾向（EMO）が著しく高いユーザーは、境界プラットフォームへの移行の可能性が高くなることが判明した。これは、個人の心理的・行動的特徴が移行意思決定を駆動していることを示している。
• 事前に境界プラットフォームに移行済みのユーザーと相互作用したユーザーは、r/The_Donaldにおいて共同活動の確率が最大70％上昇した。これは、事前に移行済みメンバーとの社会的つながりが、二重プラットフォームでの活動を強く予測していることを示している。
• ユーザーのコンテンツ多様性（DIV）が30％低下すると、共同活動の確率が22％上昇した。これは、関心が限定的で集中しているユーザーが、両方のプラットフォームで活動を継続する傾向にあることを示している。
• 禁止済みコミュニティの最近加入メンバー（SEN）と相互作用したユーザーは、共同活動の可能性が高くなった。これは、継続的な社会的統合が、クロスプラットフォームでの存在感を維持する要因であることを示している。
• 反省要因（例：TOX, EMO）は共同活動の予測要因として統計的に有意ではなかった。これは、個人の行動そのものが二重プラットフォーム活動を駆動する要因ではないことを示している。
• 関心の多様性（DIV）が唯一、共同活動と有意に関連する探求要因であった。これは、多様な関心が主流プラットフォームでの継続的関与を支える役割を果たしていることを強調している。