[論文レビュー] The Aftermath of Disbanding an Online Hateful Community

Haji Mohammad Saleem, Derek Ruths|arXiv (Cornell University)|Apr 19, 2018

Obesity and Health Practices参考文献 10被引用数 34

ひとこと要約

本研究は、r/fatpeoplehate (FPH) と呼ばれる大規模な憎悪スレッドコミュニティがRedditで禁止された後の影響を検討し、禁止によりユーザーの関与が著しく低下し、他の場所に再編成を試みるのを妨げられたことを明らかにした。短期間の代替コミュニティ形成の試みにもかかわらず、FPHユーザーはプラットフォームおよびモデレータの対応によって実質的に無力化され、Reddit上での憎悪スピーチ活動が持続的に減少した。

ABSTRACT

Harassing and hateful speech in online spaces has become a common problem for platform maintainers and their users. The toxicity created by such content can discourage user participation and engagement. Therefore, it is crucial for and a common goal of platform managers to diminish hateful and harmful content. Over the last year, Reddit, a major online platform, enacted a policy of banning sub-communities (subreddits) that they deem harassing, with the goal of diminishing such activities. We studied the effects of banning the largest hateful subreddit (r/fatpeoplehate or FPH) on the users and other subreddits that were associated with it. We found that, while a number of outcomes were possible --- in this case the subreddit ban led to a sustained reduced interaction of its members (FPH users) with the Reddit platform. We also found that the many counter-actions taken by FPH users were short-lived and promptly neutralized by both Reddit administrators and the admins of individual subreddits. Our findings show that forum-banning can be an effective means by which to diminish objectionable content. Moreover, our detailed analysis of the post-banning behavior of FPH users highlights a number of the behavioral patterns that banning can create.

研究の動機と目的

• Reddit上で活発に活動する大規模な憎悪コミュニティを禁止した際の行動的・システム的影響を理解すること。
• スレッドコミュニティを禁止することが、憎悪スピーチを効果的に削減するのか、それとも単に地下化を促すのかを調査すること。
• 他のユーザーおよび他のスレッドコミュニティが、主要な憎悪コミュニティの解体にどのように反応するかを検討すること。
• プラットフォーム管理者およびモデレータが、このような禁止に伴う波及効果をどのように抑えるかを評価すること。
• コミュニティレベルの禁止が、ユーザー関与およびコンテンツの可視性に与える長期的影響を評価すること。

提案手法

• r/fatpeoplehate (FPH) の禁止前後およびその期間におけるReddit上でのユーザー活動およびコメント量の縦断的分析を実施した。
• FPHユーザーの他のスレッドコミュニティへの移行パターンを追跡し、特に r/fatlogic, r/fatpeopelstories, r/loseit を対象とした。
• FPHユーザーの活動に応じてReddit管理者およびスレッドコミュニティのモデレータが取ったモデレーション対応をモニタリングした。
• コメントの低評価および削除の分析を通じて、FPHコンテンツに対するコミュニティレベルの抵抗を評価した。
• 禁止後の関与レベルの変化、すなわちコメント量およびユーザーの残留率の変化を数量的に評価した。
• 行政的措置による新たな憎悪指向スレッドコミュニティの創設を防ぐことの成功度を評価した。

実験結果

リサーチクエスチョン

• RQ1 禁止された憎悪スレッドコミュニティのメンバーは、プラットフォーム全体において継続的に関与を続けるようになるのか？
• RQ2 禁止されたユーザーは、新たなスレッドコミュニティで自らのコミュニティを再構築できるのか？ また、プラットフォームレベルの対策がその再編成をどれほど効果的に阻止できるのか？
• RQ3 他のスレッドコミュニティおよびそのモデレータは、禁止されたユーザーの流入や憎悪スピーチコンテンツの流入に対して、どのように反応するのか？
• RQ4 コミュニティの禁止が、プラットフォーム全体における憎悪コンテンツの可視性および発生頻度をどの程度低下させるのか？
• RQ5 ユーザー主導のモデレーション行動（例：低評価、削除）は、禁止後の憎悪スピーチをどの程度効果的に抑える役割を果たすのか？

主な発見

• r/fatpeoplehate の禁止により、継続的なユーザー関与の低下が生じ、FPHの活発な貢献者の多くがReddit上でのコメント活動を完全に停止した。
• FPHユーザーは代替スレッドコミュニティの創設を試みたが、Reddit管理者の迅速な対応により、これらのコミュニティは即座に禁止され、再編成の可能性は著しく制限された。
• r/fatlogic や r/fatpeopelstories や r/loseit などの関連スレッドコミュニティへのFPHユーザーの流入が一時的に増加したが、これらのコミュニティはアクセス制限を設け、FPH関連コンテンツをモデレーションで削除した。
• 全体としてのFPHコメントの低評価数は減少したが、低評価されたコメントのうち多くが憎悪を含む内容であったため、コミュニティによる的確な抵抗が示された。
• Reddit管理者とスレッドコミュニティモデレータの連携した行動が、禁止後の憎悪スピーチの拡散を効果的に無力化した。これは、協働モデレーションの重要性を示している。
• 禁止は、FPH関連コンテンツのプラットフォーム全体での存在を減少させることに成功した。これは、コアユーザーの離脱と、代替コミュニティの存在の欠如によるものであった。