[논문 리뷰] Machine Learning Suites for Online Toxicity Detection

David Noever|arXiv (Cornell University)|2018. 10. 03.

Hate Speech and Cyberbullying Detection참고 문헌 9인용 수 29

한 줄 요약

이 논문은 Jigsaw 위키백과 댓글 데이터셋에서 19개의 알고리즘 패밀리에 속하는 62개의 기계학습 분류기들을 평가하여 온라인에서의 독성 콘텐츠를 식별한다. 트리 기반 모델은 가장 해석 가능한 규칙과 특성 기여도 순위를 제공하며, 28개의 문법, 감성, 감정, 이상치 사전에서 간단한 악성 단어 목록이 가장 예측력 있는 특성으로 드러났다.

ABSTRACT

To identify and classify toxic online commentary, the modern tools of data science transform raw text into key features from which either thresholding or learning algorithms can make predictions for monitoring offensive conversations. We systematically evaluate 62 classifiers representing 19 major algorithmic families against features extracted from the Jigsaw dataset of Wikipedia comments. We compare the classifiers based on statistically significant differences in accuracy and relative execution time. Among these classifiers for identifying toxic comments, tree-based algorithms provide the most transparently explainable rules and rank-order the predictive contribution of each feature. Among 28 features of syntax, sentiment, emotion and outlier word dictionaries, a simple bad word list proves most predictive of offensive commentary.

연구 동기 및 목표

• 독성 온라인 댓글을 탐지하기 위해 광범위한 기계학습 분류기들을 체계적으로 평가하는 것.
• Jigsaw 위키백과 댓글 데이터셋의 특성들을 사용하여 정확도와 실행 시간을 기준으로 분류기들을 비교하는 것.
• 문법, 감성, 감정, 이상치 사전 등의 특성 유형 중에서 독성 예측에 가장 강하게 기여하는 특성 유형을 특정하는 것.
• 특성 기여도 및 규칙 투명도 측면에서 모델의 해석 가능성 평가.
• 복잡한 언어학적 또는 감성 기반 특성보다 단순한 어휘적 특성이 독성 탐지에서 더 뛰어난 성능을 보이는지 여부 확인.

제안 방법

• 연구는 로지스틱 회귀, 서포트 벡터 머신, 랜덤 포레스트, 그래디언트 부스팅, 신경망 등 19개 알고리즘 패밀리에서 온 62개의 분류기를 사용한다.
• 특성은 Jigsaw 데이터셋에서 추출되며, 문법, 감성, 감정, 이상치 단어 사전을 포함하여 총 28개의 고유한 특성으로 구성된다.
• 성능 평가는 주로 정확도를 기준으로 하며, 분류기 성능 간 유의미한 차이를 검증하기 위해 통계적 유의성 검정을 실시한다.
• 실시간 온라인 모니터링 응용 프로그램에 적합한지 평가하기 위해 계산 효율성을 측정하기 위해 실행 시간을 측정한다.
• 트리 기반 모델이 특성 기여도 순위와 투명한 의사결정 규칙을 제공하는 능력을 분석한다.
• 단일 특성 유형의 예측 능력을 평가하기 위해 제거 분석(ablation analysis)을 수행한다. 이는 간단한 악성 단어 목록 포함.

실험 결과

연구 질문

• RQ1 Jigsaw 데이터셋에서 독성 온라인 댓글을 탐지하는 데 있어 어떤 기계학습 분류기 패밀리가 가장 높은 정확도를 달성하는가?
• RQ2 다양한 분류기들의 실행 시간은 어떻게 비교되며, 실시간 온라인 독성 탐지에 적합한 것은 무엇인가?
• RQ3 문법, 감성, 감정, 이상치 단어 사전 등의 특성 유형 중에서 독성 예측에 가장 기여하는 것은 무엇인가?
• RQ4 트리 기반 모델이 독성 예측에 대해 얼마나 높은 수준의 해석 가능하고 규칙 기반의 설명을 제공할 수 있는가?
• RQ5 간단한 악성 단어 목록이 복잡한 언어학적 또는 감성 기반 특성보다 독성 댓글 예측에서 더 뛰어난 성능을 보이는가?

주요 결과

• 랜덤 포레스트나 그래디언트 부스팅과 같은 트리 기반 알고리즘은 명확한 특성 기여도 순위를 제공하며 가장 투명하고 해석 가능한 모델을 제공한다.
• 평가된 28개의 특성 중에서 간단한 악성 단어 목록이 독성 댓글 예측에 가장 높은 예측력을 보였다.
• 분류기 간 유의미한 성능 차이가 확인되었으며, 특히 그래디언트 부스팅 모델이 높은 정확도를 달성했다.
• 실행 시간은 알고리즘 간에 크게 차이가 났으며, 트리 기반 모델은 속도와 성능의 우수한 균형을 제공한다.
• 감성 및 감정 특성은 어휘적 및 문법적 특성에 비해 예측 능력이 제한적이었다.
• 결과적으로 간단하고 해석 가능한 모델 및 기본적인 어휘적 특성만으로도 높은 예측 성능를 달성할 수 있음을 시사한다.