[論文レビュー] ExtremeBB: Enabling Large-Scale Research into Extremism, the Manosphere and Their Correlation by Online Forum Data.

Anh V. Vu, Lydia Wilson+3 more|arXiv (Cornell University)|Nov 8, 2021

Terrorism, Counterterrorism, and Political Violence被引用数 9

ひとこと要約

ExtremeBB は、20 年にわたる活動を記録した 12 個の極端主義オンラインフォーラムから収集された、ほぼ 4400 万件の投稿を含む大規模かつ構造化されたデータセットであり、極端主義、ミソジニー、過激化、およびイデオロギー的進化の、大規模な定性的・定量的分析を可能にする。研究では、相互支援ネットワークや内部の対立を有する複雑で多様なコミュニティが明らかとなり、イデオロギー的均質性の認識を覆し、包括的でないデプラットフォーム化に代わる、洗練された政策的対応の必要性を示唆している。

ABSTRACT

Online extremism is a growing and pernicious problem, and increasingly linked to real-world violence. We introduce a new resource to help research and understand it: ExtremeBB is a structured textual dataset containing nearly 44M posts made by more than 300K registered members on 12 different online extremist forums, enabling both qualitative and quantitative large-scale analyses of historical trends going back two decades. It enables us to trace the evolution of different strands of extremist ideology; to measure levels of toxicity while exploring and developing the tools to do so better; to track the relationships between online subcultures and external political movements such as MAGA and to explore links with misogyny and violence, including radicalisation and recruitment. To illustrate a few potential uses, we apply statistical and data-mining techniques to analyse the online extremist landscape in a variety of ways, from posting patterns through topic modelling to toxicity and the membership overlap across different communities. A picture emerges of communities working as support networks, with complex discussions over a wide variety of topics. The discussions of many topics show a level of disagreement which challenges the perception of homogeneity among these groups. These two features of mutual support and a wide range of attitudes lead us to suggest a more nuanced policy approach than simply shutting down these websites. Censorship might remove the support that lonely and troubled individuals are receiving, and fuel paranoid perceptions that the world is against them, though this must be balanced with other benefits of de-platforming. ExtremeBB can help develop a better understanding of these sub-cultures which may lead to more effective interventions; it also opens up the prospect of research to monitor the effectiveness of any interventions that are undertaken.

研究の動機と目的

• 実世界の暴力と関連するオンライン極端主義の増大する課題に対処するため、実証的研究を可能にする大規模かつ構造化されたデータセットを構築すること。
• 極端主義コミュニティのイデオロギー的進化、毒性レベル、相互接続性を含め、定性的および定量的分析を可能にすること。
• オンライン極端主義的サブカルチャーと外部の政治的運動（例：MAGA）との関係、およびミソジニー、暴力といったイデオロギーの関係を調査すること。
• 極端主義フォーラムにおけるイデオロギー的均質性の仮定を覆し、内部の対立や支援ネットワークを明らかにすることで、その仮定に疑問を呈すること。
• オンラインコミュニティが脆弱な個人の支援システムとして果たす役割を理解することで、包括的でないデプラットフォーム化ではなく、より洗練された政策的対応を支援すること。

提案手法

• 20 年にわたる活動を記録した 12 個の異なる極端主義的コミュニティから、ほぼ 4400 万件のフォーラム投稿を収集・構造化したデータセットを構築した。
• 自然言語処理（NLP）技術を用いて投稿を処理し、トピックモデリングや毒性検出を実施することで、言語的パターンやイデオロギー的内容を分析した。
• ネットワーク解析を用いて、フォーラム間の会員重複とコミュニティ間の関係をマッピングし、相互に接続されたサブカルチャーを明らかにした。
• 統計的モデリングを用いて、投稿パターン、時間的傾向、および時間経過に伴う言説の変化を分析した。
• このデータセットは、予備的分析と仮説検証の両方を可能にし、過激化の経路やイデオロギー的変化の調査を可能にした。
• 実際のフォーラムデータを活用することで、毒性検出ツールとコミュニティレベルの分析の反復的改善が可能になった。

実験結果

リサーチクエスチョン

• RQ1 過去 20 年間にわたり、異なるオンラインフォーラムにおける極端主義的イデオロギーはどのように進化してきたか？
• RQ2 極端主義コミュニティはどの程度内部の対立や思想の多様性を示しており、イデオロギー的均質性の認識を覆すか？
• RQ3 これらのコミュニティ内およびそれらの間で、毒性や過激化のパターンはどのようなものか？
• RQ4 オンライン極端主義的サブカルチャーは、MAGA などの広範な政治的運動とどのように関連しているか？
• RQ5 これらのフォーラムは、個人が支援を受けるための支援ネットワークとして果たす役割は何か？ また、デプラットフォーム化は脆弱なユーザーにどのような影響を及えるか？

主な発見

• フォーラム内には顕著な内部多様性と議論が見られ、重要なトピックについての顕著な対立が確認され、極端主義的イデオロギーが単一のものであるという考えを覆した。
• コミュニティは相互支援ネットワークとして機能し、特に孤立しているか問題を抱える人々に対して、心理的・社会的支援を提供している。
• 毒性レベルはフォーラムやトピックごとに変動し、このデータセットにより、毒性の測定と毒性検出ツールの開発が改善された。
• 異なる極端主義的コミュニティ間で明確な会員重複が認められ、孤立したエコロジカル・チェンバーではなく、相互に接続されたネットワークであることが示された。
• ミソジニー、暴力、および MAGA などの広範な政治的運動に関する議論の間には強い相関関係が認められ、イデオロギー的一致が生じていることが示唆された。
• デプラットフォーム化は、予期しない形で重要な支援システムを失わせる可能性があり、過激化のリスクを高める恐れがある。したがって、包括的でない対応ではなく、的を射た介入の必要性が浮き彫りになった。