[논문 리뷰] Multilingual Cross-domain Perspectives on Online Hate Speech

Tom De Smedt, Sylvia Jaki외 5명|arXiv (Cornell University)|2018. 09. 11.

Hate Speech and Cyberbullying Detection참고 문헌 20인용 수 9

한 줄 요약

이 논문은 8개의 다양한 코퍼스를 대상으로 NLP 기법을 활용해 다국어 및 다분야 hate speech 분석을 제시하며, 지하드 이슬람주의자, 극단주의자, 인종주의자, 성별주의자 내용에서 공통적인 수사적 패턴을 규명한다. 텍스트 분류, 关련어 및 어구 추출, 수동 주석을 결합한 연구는 언어 및 분야 간 일관된 언어적 특징을 드러내며, 실제 컨텐츠 모니터링에 응용 가능한 다국어 환경에서 hate speech 탐지 프레임워크를 기여한다.

ABSTRACT

In this report, we present a study of eight corpora of online hate speech, by demonstrating the NLP techniques that we used to collect and analyze the jihadist, extremist, racist, and sexist content. Analysis of the multilingual corpora shows that the different contexts share certain characteristics in their hateful rhetoric. To expose the main features, we have focused on text classification, text profiling, keyword and collocation extraction, along with manual annotation and qualitative study.

연구 동기 및 목표

• 다양한 분야, 즉 지하드 이슬람주의자, 극단주의자, 인종주의자, 성별주의자 내용과 같은 다국어 온라인 hate speech를 분석하기 위해.
• 다른 언어와 hate speech 유형 간 공통적인 언어적 및 수사적 특징을 식별하기 위해.
• 다국어 코퍼스에서 hate speech 수집, 분류, 프로파일링을 위해 NLP 기법을 개발하고 적용하기 위해.
• 체계적이고 다국어적 이해를 바탕으로 컨텐츠 모니터링 및 정책 수립을 지원하기 위해.

제안 방법

• 감독 및 준감독 학습 접근 방식을 사용하여 8개의 다국어 코퍼스에서 hate speech를 분류하기 위해 텍스트 분류 기법을 적용하였다.
• 다양한 언어와 분야에서 hate speech의 스타일 및 구조적 특징을 분석하기 위해 텍스트 프로파일링 기법을 사용하였다.
• 관련어 및 어구 추출을 통해 hate speech 콘텐츠 내 고빈도 및 맥락적으로 중요한 표현을 규명하였다.
• 자동화된 결과를 검증하고 미묘한 수사적 패턴을 밝혀내기 위해 수동 주석 및 정성적 분석을 수행하였다.
• 결과의 강건성과 해석 가능성 확보를 위해 계산적 및 언어학적 방법의 조합을 활용하였다.
• 재현 가능성과 실용적 응용에 중점을 두어 연구 결과를 기록하기 위해 기술 보고서 형식을 사용하였다.

실험 결과

연구 질문

• RQ1 극단주의, 인종주의, 성별주의와 같은 다양한 분야에서 다국어 hate speech에 일관되게 존재하는 언어적 특징은 무엇인가?
• RQ2 다른 언어와 문화적 맥락에서 hate speech의 수사적 패턴은 어떻게 다를지 또는 유사한가?
• RQ3 텍스트 분류 및 어구 분석과 같은 NLP 기법이 다양한 코퍼스에서 hate speech를 탐지하고 프로파일링하는 데 얼마나 효과적인가?
• RQ4 수동 주석은 자동 hate speech 탐지 시스템의 검증 및 개선에 어떤 역할을 하는가?
• RQ5 실제 컨텐츠 모니터링에 적용 가능한 다분야 및 다국어 hate speech 탐지 모델을 어떻게 체계적으로 구축할 수 있는가?

주요 결과

• 연구는 지하드 이슬람주의자, 극단주의자, 인종주의자, 성별주의자 내용 간 다국어 hate speech에서 공통적인 수사적 특징을 규명하였으며, 이는 비인간화된 언어 사용, 내집단/외집단 갈등, 과도한 표현을 포함한다.
• 텍스트 분류 모델은 다양한 언어에서 신뢰할 수 있는 성능을 보였으며, 이는 제한된 주석 데이터가 있는 상황에서도 hate speech 패턴이 탐지 가능하다는 것을 시사한다.
• 관련어 및 어구 분석을 통해 극단주의 콘텐츠에서 종교적 또는 인종적 모욕어 등 특정 hate speech 유형과 관련된 반복적인 표현을 규명하였다.
• 수동 주석을 통해 자동화된 방법이 핵심 hate speech 특징을 포착할 수 있었지만, 맥락에 민감한 표현에는 보완이 필요하다는 점을 확인하였다.
• 다분야 분석을 통해 인종주의자, 성별주의자, 극단주의자 hate speech 간 공통된 구조적 및 언어적 특징이 존재함을 입증하였으며, 이는 동일한 탐지 전략 적용 가능성을 시사한다.
• 기술 보고서 프레임워크는 재현 가능한 분석을 가능하게 하였으며, 향후 다국어 hate speech 탐지 시스템의 기초를 마련하였다.