[논문 리뷰] Hypothesis Engineering for Zero-Shot Hate Speech Detection

Janis Goldzycher, Gerold A. Schneider|arXiv (Cornell University)|2022. 10. 03.

Hate Speech and Cyberbullying Detection인용 수 7

한 줄 요약

이 논문은 다수의 NLI 기반 가설을 조합하는 가설 공학 접근법을 제안하여 제로샷 혐오 발언 검출 성능을 향상시킨다. 이는 반론, 재사용된 모욕어, 암시적 혐오와 같은 핵심 실패 유형을 다루며, 강력한 NLI 기반 베이스라인 대비 HateCheck에서 7.9pp, ETHOS에서 10.0pp의 정확도 향상을 기록한다. 이는 미세조정 없이도 오류 중심의 가설 설계가 모듈러하고 해석 가능한 방식으로 제로샷 성능을 크게 향상시킬 수 있음을 보여준다.

ABSTRACT

Standard approaches to hate speech detection rely on sufficient available hate speech annotations. Extending previous work that repurposes natural language inference (NLI) models for zero-shot text classification, we propose a simple approach that combines multiple hypotheses to improve English NLI-based zero-shot hate speech detection. We first conduct an error analysis for vanilla NLI-based zero-shot hate speech detection and then develop four strategies based on this analysis. The strategies use multiple hypotheses to predict various aspects of an input text and combine these predictions into a final verdict. We find that the zero-shot baseline used for the initial error analysis already outperforms commercial systems and fine-tuned BERT-based hate speech detection models on HateCheck. The combination of the proposed strategies further increases the zero-shot accuracy of 79.4% on HateCheck by 7.9 percentage points (pp), and the accuracy of 69.6% on ETHOS by 10.0pp.

연구 동기 및 목표

• 미세조정 또는 레이블이 부여된 데이터 없이 제로샷 혐오 발언 검출 정확도를 향상시키는 것.
• 기본 NLI 기반 제로샷 혐오 발언 검출에서 발생하는 특정 실패 유형을 식별하고 해결하는 것.
• 특정 가설 설계를 통해 NLI 기반 제로샷 분류 성능을 향상시키는 모듈러하고 해석 가능한 프레임워크를 개발하는 것.
• 가설 조합의 효과를 HateCheck 및 ETHOS와 같은 새로운 데이터셋에서 평가하는 것.
• 저자원 또는 신규 언어 환경에 적용 가능한 자원 효율적이고 확장 가능한 혐오 발언 검출을 가능하게 하는 것.

제안 방법

• HateCheck 벤치마크를 사용해 기본 NLI 기반 제로샷 혐오 발언 검출 시스템의 오류 분석을 수행한다.
• 4가지 가설 기반 전략 설계: 대상 집단에 따른 필터링, 반론에 대한 필터링, 재사용된 모욕어에 대한 필터링, 인격 부정적 비교에 대한 탐지.
• 각 전략에 대해 다수의 가설을 사용해 혐오 발언 검출과 관련된 특정 언어 현상 예측.
• 규칙 기반 또는 신뢰도 가중 평균을 사용해 다수의 가설 예측을 통합해 최종 판단 도출.
• 입력 텍스트에 대해 특정 혐오 발언 특성에 대해 테스트하는 가설을 생성함으로써 전략을 적용.
• 성능 향상을 측정하기 위해 개발용으로 HateCheck, 테스트용으로 ETHOS에 전체 시스템을 평가.

실험 결과

연구 질문

• RQ1 기본 NLI 기반 제로샷 혐오 발언 검출에서 주요 실패 유형은 무엇인가?
• RQ2 단일 가설 설정을 초월해 다수의 가설을 조합함으로써 제로샷 혐오 발언 검출 성능을 향상시킬 수 있는가?
• RQ3 반론이나 재사용된 모욕어와 같은 특정 오류 유형을 완화하는 데 있어 타겟팅된 가설 전략은 얼마나 효과적인가?
• RQ4 제안된 전략들이 HateCheck와 같은 새로운 데이터셋에 대해 얼마나 일반화되는가?
• RQ5 레이블이 부여된 데이터 없이도 가설 공학이 미세조정된 모델 수준의 성능 향상을 달성할 수 있는가?

주요 결과

• 기본 NLI 기반 제로샷 베이스라인은 HateCheck 벤치마크에서 상용 시스템과 미세조정된 BERT 모델을 모두 앞선다.
• 제안된 4가지 가설 전략을 모두 조합하면 HateCheck에서 정확도가 7.9%p 향상되어 79.4%에 도달한다.
• ETHOS 데이터셋에서는 정확도가 10.0%p 향상되어 69.6%에 도달한다.
• 성능 향상의 주요 원인은 이전에 문제시되었던 케이스, 즉 반론과 암시적 혐오 발언의 검출 향상이다.
• 인격 부정적 비교를 타겟으로 한 전략은 ETHOS에서 약간의 부정적 영향을 미쳤으며, 이는 효과가 맥락에 따라 달라질 수 있음을 시사한다.
• 모듈러한 설계 덕분에 전략 추가 또는 제거 또는 신뢰도 임계값 조정을 통해 정밀도-재현율 균형을 쉽게 조정할 수 있다.