[論文レビュー] When the Echo Chamber Shatters: Examining the Use of Community-Specific Language Post-Subreddit Ban

Milo Z. Trujillo, Sam Rosenblatt+5 more|arXiv (Cornell University)|Jan 1, 2021

Hate Speech and Cyberbullying Detection参考文献 30被引用数 14

ひとこと要約

本研究では、Redditのサブレディット禁止措置の前後におけるコミュニティ固有の言語使用とユーザ行動を検出・追跡する非教師あり手法を導入する。禁止措置は上位ユーザに顕著に影響を与え、その効果はコミュニティの種別によっても異なることが判明した。白人至上主義およびファシズム系コミュニティでは禁止措置への反応が強く、ダークユーモア系コミュニティはほとんど影響を受けないことが示された。

ABSTRACT

Community-level bans are a common tool against groups that enable online harassment and harmful speech. Unfortunately, the efficacy of community bans has only been partially studied and with mixed results. Here, we provide a flexible unsupervised methodology to identify in-group language and track user activity on Reddit both before and after the ban of a community (subreddit). We use a simple word frequency divergence to identify uncommon words overrepresented in a given community, not as a proxy for harmful speech but as a linguistic signature of the community. We apply our method to 15 banned subreddits, and find that community response is heterogeneous between subreddits and between users of a subreddit. Top users were more likely to become less active overall, while random users often reduced use of in-group language without decreasing activity. Finally, we find some evidence that the effectiveness of bans aligns with the content of a community. Users of dark humor communities were largely unaffected by bans while users of communities organized around white supremacy and fascism were the most affected. Altogether, our results show that bans do not affect all groups or users equally, and pave the way to understanding the effect of bans across communities.

研究の動機と目的

• Redditにおけるコミュニティレベルの禁止措置がユーザ活動およびコミュニティ内言語使用に与える影響を理解すること。
• 標品化された嫌がらせ言語データに依存せずに、コミュニティ固有の言語的特徴を特定する柔軟で非教師ありの手法を開発すること。
• 異なる種類のコミュニティおよびユーザ役割において、サブレディット禁止措置の効果がどのように変化するかを調査すること。
• 禁止前におけるユーザ活動水準およびコミュニティコンテンツが、禁止後の行動変化と相関するかどうかを評価すること。

提案手法

• 有害なコンテンツとして分類せずに、特定のサブレディット内で他のReddit全体と比較して頻出する語彙（語の頻度の乖離）を用いて、コミュニティ内言語（in-group language）を同定する。
• 15の禁止済みサブレディットにこの手法を適用し、禁止前後におけるユーザ活動およびコミュニティ内語彙使用の変化を追跡する。
• ユーザを「上位（高活動）」と「ランダム（低活動）」の2群に分類し、行動反応を比較する。
• 事前にラベル付けされた嫌がらせ言語または毒性データセットを必要としない、非教師ありNLP技術を用いて、言語的シフトを検出する。
• ユーザレベルでの活動変化およびコミュニティ内語彙使用の変化を分析し、行動的影響を評価する。
• 禁止済みサブレディットをコンテンツタイプ（例：白人至上主義、ダークユーモアなど）に分類し、コミュニティ種別による禁止措置の効果を比較する。

実験結果

リサーチクエスチョン

• RQ1 サブレディットの禁止措置が、特に上位ユーザとランダムユーザの活動レベルにどのように影響を与えるか？
• RQ2 サブレディット禁止後、ユーザはどの程度コミュニティ内言語の使用を削減するか？
• RQ3 禁止されたサブレディットのコンテンツタイプ（例：白人至上主義、ダークユーモアなど）が、禁止措置の効果に影響を与えるか？
• RQ4 禁止前の活動レベルに応じて、ユーザの反応に体系的な差が生じるか？
• RQ5 禁止後の禁止コミュニティにおける言語的パターンの変化は何か？この変化が、コミュニティの結束性と適応性に何を示唆するか？

主な発見

• 上位ユーザは、禁止措置後、全体的な活動水準およびコミュニティ内言語使用の両方を顕著に減少させた。
• ランダムユーザは、全体的な活動水準の低下を伴わずに、コミュニティ内語彙使用を減少させた。これは、言語的非活性化（linguistic deactivation）が行われたが、参加の放棄（disengagement）までは至らなかったことを示唆している。
• 白人至上主義およびファシズム系コミュニティでは、禁止措置への反応が最も強く、こうしたグループに対しては禁止措置の効果が顕著に高かった。
• ダークユーモア系コミュニティは、禁止後も行動にほとんど変化を示さず、禁止措置の効果が低いことが示された。
• ランダムユーザの全体的な活動水準に顕著な減少は認められなかったが、コミュニティ内語彙使用は平均で-0.2から-0.3程度低下した。
• 本研究では、禁止措置の効果がコミュニティのコンテンツに相関している証拠が得られ、コンテンツタイプがユーザ反応を規定する重要な要因であることが示唆された。