[논문 리뷰] Unsupervised Cyberbullying Detection via Time-Informed Gaussian Mixture Model

Lu Cheng, Kai Shu외 4명|arXiv (Cornell University)|2020. 08. 06.

Hate Speech and Cyberbullying Detection참고 문헌 44인용 수 6

한 줄 요약

이 논문은 시간 정보를 반영한 혼합 정규분포 모델을 사용하여 다중 모odal 세션 표현을 공동으로 학습하고 댓글 간 간격을 모델링함으로써 비지도 학습 기반 사이버불링 탐지 모델인 UCD를 제안한다. 시간 동적 특성, 계층적 어텐션, 공동 최적화를 통합함으로써 UCD는 비지도 학습 방법 중 최고 성능을 달성하였으며, 실제 인스타그램 및 바이브 데이터셋에서 지도 학습 기반 기준과도 경쟁 가능한 결과를 보였다.

ABSTRACT

Social media is a vital means for information-sharing due to its easy access, low cost, and fast dissemination characteristics. However, increases in social media usage have corresponded with a rise in the prevalence of cyberbullying. Most existing cyberbullying detection methods are supervised and, thus, have two key drawbacks: (1) The data labeling process is often time-consuming and labor-intensive; (2) Current labeling guidelines may not be generalized to future instances because of different language usage and evolving social networks. To address these limitations, this work introduces a principled approach for unsupervised cyberbullying detection. The proposed model consists of two main components: (1) A representation learning network that encodes the social media session by exploiting multi-modal features, e.g., text, network, and time. (2) A multi-task learning network that simultaneously fits the comment inter-arrival times and estimates the bullying likelihood based on a Gaussian Mixture Model. The proposed model jointly optimizes the parameters of both components to overcome the shortcomings of decoupled training. Our core contribution is an unsupervised cyberbullying detection model that not only experimentally outperforms the state-of-the-art unsupervised models, but also achieves competitive performance compared to supervised models.

연구 동기 및 목표

• 비용이 많이 들고 언어 사용이 빠르게 변화하는 문제를 해결하기 위해 지도 학습 기반 사이버불링 탐지의 한계를 해결하기 위해.
• 높은 탐지 성능를 유지하면서도 레이블이 없는 데이터에 의존하지 않는 비지도 프레임워크를 개발하기 위해.
• 소셜 미디어 세션에서 댓글 시퀀스의 시간 동적 특성을 모델링하여 사이버불링 탐지 성능을 향상시키기 위해.
• 대부분의 분리된 학습 방식에서 발생하는 성능 저하 문제를 해결하기 위해 표현 학습과 시간 모델링을 공동 최적화하기 위해.
• evolving 언어와 사회적 동적 변화에 대응하여 미래의 사이버불링 패턴으로의 일반화를 가능하게 하기 위해.

제안 방법

• 계층적 어텐션 네트워크(HAN)는 다중 모달 세션 표현을 인코딩하여 단어 수준 및 댓글 수준의 의미를 포착한다.
• 다중 작업 학습 네트워크는 혼합 정규분포 모델을 사용하여 폭력 가능성 확률을 공동으로 추정하고 댓글 간 간격을 모델링한다.
• 댓글 간 간격을 반복적인 폭력적 행동을 식별하는 핵심 신호로 간주함으로써 시간 정보를 반영한 특징을 모델에 통합한다.
• 표현 학습, 시간 모델링, 에너지 기반 클러스터링을 공동 최적화함으로써 분리된 학습으로 인한 성능 저하를 방지한다.
• 혼합 정규분포 모델은 각 세션을 폭력 가능성에 기반해 클러스터에 할당함으로써 지도 학습의 참값 레이블 없이도 비지도 탐지가 가능하게 한다.
• 다중 모달 특징에는 텍스트, 사용자 프로필, 사회망 구조, 사회적 콘텐츠(예: 좋아요, 공유 수) 등이 포함된다.

실험 결과

연구 질문

• RQ1 레이블이 없는 학습 데이터에 의존하지 않고도 비지도 모델이 사이버불링을 효과적으로 탐지할 수 있는가?
• RQ2 댓글 시퀀스의 시간 패턴이 사이버불링 상호작용과 비사이버불링 상호작용를 구분하는 데 어떻게 기여하는가?
• RQ3 표현 학습과 시간 모델링을 공동 최적화하는 것이 분리된 접근 방식보다 탐지 성능을 향상시킬 수 있는가?
• RQ4 텍스트, 네트워크, 시간 등의 다중 모달 특징이 비지도 사이버불링 탐지 성능에 얼마나 기여하는가?
• RQ5 언어와 사회적 동적 변화가 지속적으로 변화하는 상황에서 모델이 어떻게 새로운 사이버불링 패턴으로 일반화되는가?

주요 결과

• UCD는 인스타그램 및 바이브 데이터셋 양쪽에서 모든 최신 비지도 사이버불링 탐지 방법보다 AUROC 및 F1 스코어 측면에서 뛰어난 성능을 보였다.
• 인스타그램 데이터셋에서 UCD는 AUROC 0.89와 F1 스코어 0.78를 기록했으며, 다음으로 우수한 비지도 방법보다 각각 5% 이상 높은 성능를 보였다.
• 바이브 데이터셋에서 UCD는 AUROC 0.85와 F1 스코어 0.74를 기록하여 다양한 소셜 미디어 플랫폼 간 강력한 일반화 능력을 입증했다.
• 절단 실험 결과 시간 모델링 또는 공동 최적화를 제거할 경우 성능 저하가 심각하게 발생함을 확인하여, 이러한 구성 요소의 중요성을 입증했다.
• 사례 연구 결과 UCD는 'b*tch', 'f*ckin'과 같은 폭력적 관련 단어를 효과적으로 식별하고, 댓글 간 맥락을 고려함으로써 잘못된 경고를 줄이는 데 성공했다.
• 복잡한 댓글 시퀀스를 포함한 비폭력 세션도 효과적으로 탐지할 수 있는 능력은 모델의 맥락적 모호성에 대한 강건성을 보여준다.