[논문 리뷰] Trajectories of Islamophobic hate amongst far right actors on Twitter.

Bertie Vidgen, Taha Yasseri외 1명|arXiv (Cornell University)|2019. 10. 13.

Hate Speech and Cyberbullying Detection참고 문헌 35인용 수 7

한 줄 요약

이 연구는 영국 국민당의 지지자들로부터 수집한 500만 건의 트위터 트윗을 분석하여, 다단계 접근법을 통해 음성적·암시적 혐불스라엘주의를 포함한 일곱 가지의 명확한 궤적을 규명하였다. 이 접근법은 혐불스라엘주의 분류기와 잠재적 마르코프 모델링, k-모드 군집화를 융합한 것이다. 연구 결과는 명확한, 시간에 따라 변화하는 표현 방식의 음성적·암시적 혐불스라엘주의 패턴을 드러내며, 극우 온라인 폭력의 세밀한 통찰을 제공하고, 온라인 혐오 발언에 대한 정책 대응에 기여한다.

ABSTRACT

Far right actors use the Internet for myriad purposes, such as forming communities, sharing information and attracting support. Concerns have been raised about their use of social media to spread hateful messages by both academics and policymakers. Given the potentially dangerous effects of hate speech, which can inflict harm on targeted victims, create a sense of fear amongst communities and pollute civic discourse, there is a pressing need to understand at a granular level how it manifests amongst far right actors online. In this paper we investigate the dynamics of Islamophobia amongst followers of a far right political party on Twitter, the British National Party. Using a new dataset of five million tweets, collected over a period of one year, we identify seven distinct trajectories of Islamophobia, which capture qualitative, qualitative and temporal differences in users' behaviour. We analyse the data using a classifier for Islamophobic content, which distinguishes between None, Implicit and Explicit Islamophobia, and latent Markov modelling with k modes clustering. The findings provide a new level of granular insight into Islamophobic behaviour amongst the far right on social media, both deepening existing knowledge and informing policy discussions regarding far right extremism and online hate speech.

연구 동기 및 목표

• 사회 미디어에서 극우 행위자들 사이에서 혐불스라엘주의의 역동적 표현 양상을 이해하기 위해.
• 영국 국민당과 연관된 온라인 커뮤니티 내에서 혐오 발언이 시간에 따라 어떻게 변화하는지 분석하기 위해.
• 데이터 기반 모델링을 통해 혐불스라엘주의 콘텐츠 표현 방식의 명확한 행동 패턴을 규명하기 위해.
• 극우 온라인 폭력에 대한 정책 논의를 뒷받침하기 위해, 세밀하고 증거 기반의 통찰을 제공하기 위해.

제안 방법

• 트윗을 '해당 없음', '암시적', '명시적 혐불스라엘주의'의 세 가지 클래스로 분류하기 위해 맞춤형 분류기를 훈련시켰다.
• 사용자들이 시간에 따라 혐불스라엘주의 콘텐츠를 어떻게 표현하는지 모델링하기 위해 잠재적 마르코프 모델링을 적용했다.
• 마르코프 모델에서의 사용자 행동 궤적을 기반으로 사용자를 군집화하기 위해 k-모드 군집화를 사용했다.
• 영국 국민당의 트위터 팔로워들로부터 1년간 수집한 500만 건의 트윗 데이터셋을 대상으로 분석을 수행했다.
• 자연어 처리 기법과 통계 모델링을 융합하여 혐오 발언의 질적, 양적, 시간적 차원을 포괄적으로 파악했다.

실험 결과

연구 질문

• RQ1 극우 트위터 사용자들이 생산하는 혐불스라엘주의 콘텐츠의 명확한 시간적 패턴은 무엇인가?
• RQ2 암시적 및 명시적 형태의 혐불스라엘주의가 온라인 커뮤니티 내에서 시간에 따라 어떻게 공존하고 변화하는가?
• RQ3 사용자들이 혐불스라엘주의 콘텐츠 생산 패턴에 따라 식별 가능한 행동 군집은 무엇인가?
• RQ4 혐불스라엘주의 발언 궤적이 강도, 빈도, 콘텐츠 유형 측면에서 어떻게 다름을 보이는가?

주요 결과

• 영국 국민당의 트위터 팔로워들 사이에서 일곱 가지의 명확한 혐불스라엘주의 행동 궤적이 규명되었다.
• 궤적 분석을 통해 암시적 및 명시적 혐불스라엘주의의 표현 방식이 시간에 따라 상당한 다양성을 보였다.
• 사용자들은 혐불스라엘주의 콘텐츠의 다양한 수준 간에 동적인 전환을 보이며, 혐오 발언에 대한 참여 방식이 변화함을 시사했다.
• 이 연구는 혐불스라엘주의 콘텐츠가 정적인 것이 아니라, 사용자 집단 간에 복잡하고 반복적인 패턴을 따름을 입증했다.