[論文レビュー] Quarantined! Examining the Effects of a Community-Wide Moderation Intervention on Reddit

Eshwar Chandrasekharan, Shagun Jhaver+2 more|arXiv (Cornell University)|Sep 24, 2020

Hate Speech and Cyberbullying Detection被引用数 7

ひとこと要約

本研究は、危険なサブレディットの可視性とアクセスを制限する設計的摩擦であるRedditの「隔離（quarantining）」介入が、r/TheRedPill（TRP）およびr/The_Donald（TD）に与える影響を評価する。8500万件を超える投稿を用いた因果推論により、隔離はそれぞれのコミュニティにおける新規ユーザーの流入を79.5%および58%減少させたが、既存ユーザーの嫌がらせ発言のレベルに変化は認められず、内部の議論は変化せずにコミュニティの拡大が制限されたことが示された。

ABSTRACT

Should social media platforms override a community's self-policing when it repeatedly break rules? What actions can they consider? In light of this debate, platforms have begun experimenting with softer alternatives to outright bans. We examine one such intervention called quarantining, that impedes direct access to and promotion of controversial communities. Specifically, we present two case studies of what happened when Reddit quarantined the influential communities r/TheRedPill (TRP) and r/The_Donald (TD). Using over 85M Reddit posts, we apply causal inference methods to examine the quarantine's effects on TRP and TD. We find that the quarantine made it more difficult to recruit new members: new user influx to TRP and TD decreased by 79.5% and 58%, respectively. Despite quarantining, existing users' misogyny and racism levels remained unaffected. We conclude by reflecting on the effectiveness of this design friction in limiting the influence of toxic communities and discuss broader implications for content moderation.

研究の動機と目的

• Redditのコミュニティ全体のモデレーション介入である「隔離」が、危険なサブレディットにおけるユーザーの獲得と議論に与える影響を評価すること。
• 隔離（禁止とは異なり、より穏当な代替手段）が、有害なコンテンツの拡散を抑える一方で、表現の自由を抑制しないかを評価すること。
• このような設計的摩擦が、有害なコミュニティに所属する既存ユーザーの行動に影響を及ぼすのか、それとも新規ユーザーの獲得にのみ影響を及けるのかを理解すること。
• オンラインプラットフォームにおけるコンテンツモデレーション戦略に、隔離が及える広範な意味を明らかにすること。

提案手法

• 差分の差分（difference-in-differences）フレームワークを用い、制御コミュニティを含めて、隔離前後のユーザー行動の変化を因果推論手法で分析した。
• TRPおよびTDから得た8500万件を超えるReddit投稿（タイムスタンプ、ユーザー活動、投稿レベルの感情分析を含む）を収集・分析し、ユーザーの流入と議論の質の変化を追跡した。
• 30日間のバッファ期間に基づいて「新規ユーザー」を定義し、再活性化ユーザーと真正の新規ユーザーを区別することで、ユーザー獲得トレンドの正確な測定を可能にした。
• 警告画面の表示や、検索結果およびr/allフィードからの削除といったインターフェースレベルの設計的変更を、隔離介入の中心的メカニズムとした。
• RedditのAPIおよび検索インデックスの動作を分析することで、隔離されたサブレディットが一般ユーザーに表示されなくなったことを確認した。
• 自然言語処理（NLP）を用いた感情分析により、投稿コメントのミソジニーおよび人種差別的発言のレベルを、隔離前後で比較して議論の有害性を測定した。

実験結果

リサーチクエスチョン

• RQ1 隔離は、r/TheRedPill や r/The_Donald などの危険なサブレディットへの新規ユーザー獲得率にどのように影響するか？
• RQ2 隔離は、これらのコミュニティに所属する既存ユーザーのミソジニーまたは人種差別的発言のレベルを低下させるか？
• RQ3 この介入によって、隔離されたサブレディットのコンテンツが、プラットフォーム全体で可視性や発見可能性がどの程度低下するか？
• RQ4 隔離コミュニティにおける長期的な行動的・社会的ダイナミクス、特に閉鎖性とユーザーの維持率に関しては、どのような特徴を示すか？

主な発見

• 隔離により、r/TheRedPill（TRP）への新規ユーザー流入が79.5%減少し、コミュニティの自然な発見による拡大能力が顕著に制限された。
• r/The_Donald（TD）への新規ユーザー獲得は隔離後58%減少し、TRPと比べて効果はやや弱いが、依然として顕著な影響を示した。
• 新規メンバーの減少にもかかわらず、TRPおよびTDの既存ユーザーは依然として高いミソジニーおよび人種差別的発言レベルを維持しており、内部の有害性に顕著な変化は認められなかった。
• 隔離は、検索結果やr/all、サブスクリプションなしのフィードからの削除を通じて、両コミュニティがReddit全体から効果的に隔離されたことを示した。
• 既存メンバーのユーザー活動や関与度に顕著な増加は見られず、反発や団結の兆候もなかったことから、介入が反動を引き起こさなかったことが示唆された。
• これらの結果は、隔離が、既存の議論のトーンを変えることなくコミュニティの拡大を制限する有効な設計的摩擦戦略であることを支持しており、検閲と無策の中間的妥協策としての可能性を示している。