[논문 리뷰] "And We Will Fight For Our Race!" A Measurement Study of Genetic Testing Conversations on Reddit and 4chan

Alexandros Mittos, Savvas Zannettou외 2명|arXiv (Cornell University)|2019. 01. 28.

Hate Speech and Cyberbullying Detection인용 수 4

한 줄 요약

이 연구는 27개월 동안 레딧과 4chan의 /pol/ 게시판에서 130만 개의 댓글을 분석하여, 280개의 유전자 검사 관련 키워드를 사용하고 자연어 처리(NLP), 컴퓨터 비전, 독성 탐지 기법을 적용한 결과, 유전자 검사가 특히 /pol/에서 극우 이데올로기, 반유대주의 멘트, 인종 청소를 위한 주장 등 유해하고 인종차별적이며 여성 혐오적인 맥락에서 자주 논의되고 있음을 밝혀냈다. 연구 결과, 유전자 검사 논의와 극우 폭력주의 사이에 강한 연관성이 있으며, 단어 임bedding과 이미지 분석을 통해 극단주의적 이de올로기의 영향력이 극단파에서 주류 플랫폼으로 퍼져나가는 경향을 확인했다.

ABSTRACT

Progress in genomics has enabled the emergence of a booming market for "direct-to-consumer" genetic testing. Nowadays, companies like 23andMe and AncestryDNA provide affordable health, genealogy, and ancestry reports, and have already tested tens of millions of customers. At the same time, alt- and far-right groups have also taken an interest in genetic testing, using them to attack minorities and prove their genetic "purity." In this paper, we present a measurement study shedding light on how genetic testing is being discussed on Web communities in Reddit and 4chan. We collect 1.3M comments posted over 27 months on the two platforms, using a set of 280 keywords related to genetic testing. We then use NLP and computer vision tools to identify trends, themes, and topics of discussion. Our analysis shows that genetic testing attracts a lot of attention on Reddit and 4chan, with discussions often including highly toxic language expressed through hateful, racist, and misogynistic comments. In particular, on 4chan's politically incorrect board (/pol/), content from genetic testing conversations involves several alt-right personalities and openly antisemitic rhetoric, often conveyed through memes. Finally, we find that discussions build around user groups, from technology enthusiasts to communities promoting fringe political views.

연구 동기 및 목표

• 온라인 플랫폼인 레딧과 4chan에서의 유전자 검사 논의가 얼마나 퍼져 있으며, 얼마나 독성이 있는지 조사하기.
• 유전자 검사 논의가 온라인 대화에서 극우 이데올로기, 혐오 발언, 백인 우월주의와 관련이 있는지 검토하기.
• 특정 주제, 언어 패턴, 그리고 시각적 콘텐츠(예: 멘트)를 통해 유전자 검사 논의가 인종차별적·여성 혐오적 담론과 어떻게 연결되는지 특정하기.
• 4chan의 /pol/과 같은 플랫폼에서의 극단주의적 이데올로지가 주류 레딧 커뮤니티로 영향을 미치거나 확산되는 정도 평가하기.
• 소비자 유전자 검사(DTC)의 오용이 유전학 기반의 편견과 차별을 조장하는 데서 비롯되는 정량적 증거 제공하기.

제안 방법

• 레딧의 77,000개 댓글과 4chan의 /pol/ 게시판에서 130만 개의 댓글을, 유전자 검사와 관련된 280개의 키워드 조합을 사용해 수집.
• 논의의 주요 주제와 테마를 파악하기 위해 잠재적 디리히레트 분할(Latent Dirichlet Allocation, LDA) 적용.
• 특히 민족 및 인종 관련 용어 주변에서의 언어 사용 유사성을 탐지하기 위해 단어 임bedding 사용.
• 댓글의 독성 수준을 측정하기 위해 구글의 Perspective API 활용.
• 반복적으로 나타나는 이미지와 멘트(특히 반유대주의 및 극우 이미지)를 탐지하고 분석하기 위해 감각 해싱(perceptual hashing) 기법 활용.
• 정량적 분석과 정성적 해석을 통합하여 이데올로기적 패tern과 플랫폼 간 영향력 추적하기.

실험 결과

연구 질문

• RQ1 레딧과 4chan에서의 유전자 검사 논의는 얼마나 퍼져 있는가?
• RQ2 사용자들은 어떤 맥락에서 유전자 검사를 논의하며, 이러한 맥락은 플랫폼과 커뮤니티 간에 어떻게 다를까?
• RQ3 유전자 검사 논의가 온라인 대화에서 극우 시각, 인종차별적 이데올로기, 혐오 발언, 또는 백인 우월주의와 관련이 있는가?
• RQ4 관련성이 있다면, 이러한 연관성은 어떤 구체적 맥락에서 발생하며, 어떤 주제나 언어 패턴이 특징적인가?
• RQ5 4chan의 /pol/ 게시판에서의 극단주의적 이데올로지가 주류 레딧 커뮤니티로 얼마나 영향을 미치거나 확산되는가?

주요 결과

• /pol/에서의 유전자 검사 논의는 무작위 샘플 대비 수십 배 높은 활동 수준을 보이며, 극우 커뮤니티의 집중적인 관심을 반영한다.
• 4chan의 /pol/에서 높은 비율로 인종차별적, 여성 혐오적, 대량학살적 언어가 사용되었으며, 일부 사용자들은 유전자 검사를 인종적 배제나 제거 도구로 제안했다.
• /pol/에서 유전자 검사 콘텐츠와 함께 공유된 이미지에는 극우 인물들과 널리 퍼진 반유대주의 멘트가 자주 포함되어 있어 이데올로기적 서사를 강화했다.
• 단어 임bedding 분석 결과, /pol/과 일부 혐오 발언을 하는 레딧 서브레딧 간 유사한 언어 패턴을 공유했으며, 이는 극단주의적 사고가 주류 플랫폼으로 확산되고 있음을 시사한다.
• 레딧에서는 일부 커뮤니티가 건강과 문화 유산을 위해 유전자 검사를 논의하는가 하면, 다른 커뮤니티에서는 인종차별적·남성 중심적 이데올로기를 홍보하며 기술의 双용(이중 용도) 성격을 보였다.
• 이 연구는 DTC 유전자 검사가 온라인 공간에서 유전학 기반 편견을 조장하는 데 악용되고 있음을 정량적 증거로 제시하며, 사회적 피해와 플랫폼의 책임 문제에 대한 시사점을 제공한다.