[논문 리뷰] ExtremeBB: Enabling Large-Scale Research into Extremism, the Manosphere and Their Correlation by Online Forum Data.

Anh V. Vu, Lydia Wilson외 3명|arXiv (Cornell University)|2021. 11. 08.

Terrorism, Counterterrorism, and Political Violence인용 수 9

한 줄 요약

ExtremeBB는 약 4400만 개의 게시물이 포함된 대규모 구조화된 데이터셋으로, 20년에 걸쳐 12개의 극단주의 온라인 포럼에서 수집된 자료를 바탕으로 극단주의, 미소니즘, 급진화 및 이데올로기적 진화에 대한 대규모 정량적·정성적 분석을 가능하게 한다. 연구 결과는 상호 지원 네트워크와 내부 갈등이 존재하는 복잡하고 이질적인 공동체를 드러내며, 이데올로기적 동질성이라는 인식을 도전하고, 포괄적인 퇴출 조치보다는 더 세밀한 정책 대응의 필요성을 시사한다.

ABSTRACT

Online extremism is a growing and pernicious problem, and increasingly linked to real-world violence. We introduce a new resource to help research and understand it: ExtremeBB is a structured textual dataset containing nearly 44M posts made by more than 300K registered members on 12 different online extremist forums, enabling both qualitative and quantitative large-scale analyses of historical trends going back two decades. It enables us to trace the evolution of different strands of extremist ideology; to measure levels of toxicity while exploring and developing the tools to do so better; to track the relationships between online subcultures and external political movements such as MAGA and to explore links with misogyny and violence, including radicalisation and recruitment. To illustrate a few potential uses, we apply statistical and data-mining techniques to analyse the online extremist landscape in a variety of ways, from posting patterns through topic modelling to toxicity and the membership overlap across different communities. A picture emerges of communities working as support networks, with complex discussions over a wide variety of topics. The discussions of many topics show a level of disagreement which challenges the perception of homogeneity among these groups. These two features of mutual support and a wide range of attitudes lead us to suggest a more nuanced policy approach than simply shutting down these websites. Censorship might remove the support that lonely and troubled individuals are receiving, and fuel paranoid perceptions that the world is against them, though this must be balanced with other benefits of de-platforming. ExtremeBB can help develop a better understanding of these sub-cultures which may lead to more effective interventions; it also opens up the prospect of research to monitor the effectiveness of any interventions that are undertaken.

연구 동기 및 목표

• 실제 폭력과 연관된 증가하는 온라인 극단주의 문제를 해결하기 위해, 실증 연구를 위한 대규모 구조화된 데이터셋을 구축함으로써.
• 극단주의 공동체의 이데올로기적 진화, 독성 수준, 상호연결성 등을 포함한 정성적·정량적 분석을 가능하게 하기 위해.
• 온라인 극단주의 하위문화, 외부 정치 운동(예: MAGA) 및 미소니즘, 폭력과 같은 이데올로기 간의 관계를 조사하기 위해.
• 극단주의 포럼 내에서의 이데올로기적 동질성이라는 가정을 도전하기 위해, 내부 갈등과 지원 네트워크를 드러내기 위해.
• 온라인 공동체가 취약한 개인들에게 지지 시스템으로 작용하는 방식을 이해함으로써, 더 세밀한 정책 접근 방식을 제안하기 위해.

제안 방법

• 20년이 넘는 기간 동안 활동한 12개의 별개의 극단주의 공동체에서 약 4400만 건의 포럼 게시물을 수집하고 구조화함으로써 데이터셋을 구축함.
• 자연어 처리(NLP) 기법을 사용하여 언어 패턴과 이데올로기적 내용을 분석함. 주제 모델링 및 독성 탐지 포함.
• 회원 겹침과 포럼 간 공동체 관계를 맵핑하기 위해 네트워크 분석을 적용함으로써 상호연결된 하위문화를 드러냄.
• 게시 패턴, 시간적 추세, 논의의 변화를 분석하기 위해 통계 모델링을 사용함.
• 연구자가 급진화 경로와 이데올로기적 이동을 조사할 수 있도록, 탐색적 분석과 가설 검증을 모두 지원하는 데이터셋.
• 실제 포럼 데이터를 통해 독성 탐지 도구와 공동체 수준의 분석을 반복적으로 개선할 수 있는 프레임워크 제공.

실험 결과

연구 질문

• RQ1 지난 20년간 다양한 온라인 포럼에서 극단주의 이데올로지는 어떻게 진화해 왔는가?
• RQ2 극단주의 공동체가 내부 갈등과 사고의 다양성을 보이며, 이데올로기적 동질성이라는 인식에 도전하는 정도는 어느 정도인가?
• RQ3 이러한 공동체 내외에서 독성과 급진화의 패턴은 어떠한가?
• RQ4 온라인 극단주의 하위문화는 MAGA와 같은 광범위한 정치 운동과 어떻게 연결되어 있는가?
• RQ5 이 포럼들은 개인에게 지지 네트워크로 작용하는 역할을 하는가? 그리고 퇴출 조치는 취약한 사용자에게 어떤 영향을 미칠 수 있는가?

주요 결과

• 포럼 내에서 상당한 내부 다양성과 논의가 존재하며, 핵심 주제에 대해 상당한 이견이 존재함으로써, 단일한 극단주의 이데올로기라는 개념에 도전함.
• 공동체는 상호 지지 네트워크로 작용하여, 고립되거나 문제가 있는 개인들에게 정서적·사회적 지지를 제공함.
• 독성 수준은 포럼과 주제에 따라 다양하며, 이 데이터셋을 통해 독성 측정 및 독성 탐지 도구 개선이 가능함.
• 다양한 극단주의 공동체 간에 명백한 회원 겹침이 존재함으로써, 고립된 에코 캐빈이 아니라 상호 연결된 네트워크임을 시사함.
• 미소니즘, 폭력, MAGA와 같은 광범위한 정치 운동 간의 논의에 강력한 상관관계가 존재함을 드러내며, 이데올로기적 융합을 시사함.
• 퇴출 조치는 간접적으로 중요한 지지 시스템을 제거할 수 있으며, 이는 급진화 위험 증가로 이어질 수 있음. 이는 포괄적인 조치보다는 타겟팅된 조치의 필요성을 강조함.