[논문 리뷰] A Quantitative Approach to Understanding Online Antisemitism

Savvas Zannettou, Joel Finkelstein외 2명|arXiv (Cornell University)|2018. 09. 05.

Hate Speech and Cyberbullying Detection인용 수 9

한 줄 요약

이 논문은 4chan의 /pol/과 Gab에서 수집한 1,000만 건 이상의 게시물 데이터를 바탕으로 온라인 유대인 혐오 발언에 대한 대규모이고 정량적인 분석을 제시한다. word2vec과 Hawkes 프로세스를 적용하여 혐오 발언과 '행복한 상인' 멤에의 확산을 추적한다. 주요 정치적 사건 이후 혐오 발언이 급격히 증가하는 경향을 확인했으며, /pol/이 이 멤에를 확산시키는 데 가장 영향력 있는 플랫폼임을 밝혔다.

ABSTRACT

A new wave of growing antisemitism, driven by fringe Web communities, is an increasingly worrying presence in the socio-political realm. The ubiquitous and global nature of the Web has provided tools used by these groups to spread their ideology to the rest of the Internet. Although the study of antisemitism and hate is not new, the scale and rate of change of online data has impacted the efficacy of traditional approaches to measure and understand these troubling trends. In this paper, we present a large-scale, quantitative study of online antisemitism. We collect hundreds of million posts and images from alt-right Web communities like 4chan's Politically Incorrect board (/pol/) and Gab. Using scientifically grounded methods, we quantify the escalation and spread of antisemitic memes and rhetoric across the Web. We find the frequency of antisemitic content greatly increases (in some cases more than doubling) after major political events such as the 2016 US Presidential Election and the "Unite the Right" rally in Charlottesville. We extract semantic embeddings from our corpus of posts and demonstrate how automated techniques can discover and categorize the use of antisemitic terminology. We additionally examine the prevalence and spread of the antisemitic "Happy Merchant" meme, and in particular how these fringe communities influence its propagation to more mainstream communities like Twitter and Reddit. Taken together, our results provide a data-driven, quantitative framework for understanding online antisemitism. Our methods serve as a framework to augment current qualitative efforts by anti-hate groups, providing new insights into the growth and spread of hate online.

연구 동기 및 목표

• 빠르게 확산되는 혐오 콘텐츠 상황 속에서 온라인 유대인 혐오 발언에 대한 대규모 정량적 측정의 부족을 보완하기 위해.
• 특히 '행복한 상인' 멤에를 포함한 혐오 발언과 이미지가 온라인 커뮤니티 간에 어떻게 확산되는지 이해하기 위해.
• 기존의 정성적 반 혐오 노력과 보완이 되는 데이터 기반의 투명한 프레임워크를 제공하기 위해.
• 변두리 커뮤니티가 주류 플랫폼에서 혐오 발언을 얼마나 영향력 있게 확산시키는지 정량화하기 위해.

제안 방법

• 2016년 7월부터 2018년 1월까지 4chan의 /pol/과 Gab에서 1,000만 건 이상의 텍스트 게시물을 수집하였다.
• 지속적인 bag-of-words word2vec 모델을 텍스트 데이터에 훈련시어, 혐오 발언 용어와 의미 클러스터를 탐색하고 분류하였다.
• 거의 700만 장의 이미지에서 '행복한 상인' 멤에를 탐지하고 정량화하기 위한 이미지 처리 파이프라인을 적용하였다.
• Hawkes 점과정을 사용하여 다양한 온라인 커뮤니티가 '행복한 상인' 멤에를 확산시키는 데 미치는 상대적 영향력을 모델링하고 추정하였다.
• 어휘 임bedding과 맥락적 사용을 분석하여, 비속어, 음모 이론, 종교적 증오를 포함한 혐오 언어 패tern을 식별하기 위해 모델을 훈련시켰다.
• 2016년 미국 대선과 샬럿스빌 데모와 같은 실제 정치적 사건과 혐오 발언 증가를 상관 분석하였다.

실험 결과

연구 질문

• RQ1 RQ1: 온라인 유대인 혐오 발언이 증가했는가? 만약 그렇다면, 그 추세는 어떠한가?
• RQ2 RQ2: 온라인 유대인 혐오 발언은 어떻게 표현되며, 새로운 혐오 언어 패턴을 자동으로 탐지하고 분류할 수 있는가?
• RQ3 RQ3: 변두리 커뮤니티가 혐오 선전을 확산시키는 데 있어, 나머지 웹 전반에 미치는 영향력은 어느 정도인가?

주요 결과

• 2016년 미국 대선과 '단결의 무리' 샬럿스빌 데모 이후, '유대인'이라는 단어를 포함한 혐오 발언의 빈도가 두 배 이상 증가하였다.
• word2vec 분석을 통해 민족적 비속어, 국가주의적 발언, 성경 서사에 뿌리를 둔 종교적 증오를 포함한 혐오 언어의 명확한 의미 클러스터를 확인하였다.
• '행복한 상인' 멤에는 /pol/과 Gab 양 플랫폼에서 매우 널리 퍼져 있었으며, 주요 정치적 사건 이후 사용 빈도가 크게 증가하였다.
• /pol/은 공유 콘텐츠의 높은 양으로 인해, 다양한 커뮤니티로 멤에를 확산시키는 데 가장 영향력 있는 플랫폼로 규명되었다.
• Reddit의 The_Donald 커뮤니티는 전체 게시물 수는 적었지만, 다른 커뮤니티로 멤에를 확산시키는 데 가장 효율적인 것으로 밝혀졌다.
• 이 연구에서 '행복한 상인' 멤에의 정량화는 보수적인 편이었으며, 많은 변형이 원본 멤에와 함께 묶여 분류되었기 때문에 실제 보급률은 더 높을 가능성이 있다.