[논문 리뷰] Incorporating Priors with Feature Attribution on Text Classification

Frederick Liu, Besim Avci|arXiv (Cornell University)|2019. 06. 19.

Machine Learning and Data Classification참고 문헌 43인용 수 8

한 줄 요약

이 논문은 텍스트 분류 모델에 도메인 특화 사전 지식을 통합하기 위해 학습 중에 통합 기울기(feature attributions)와 사전 정의된 타겟 attributions 값 사이의 L2 거리를 최소화하는 방법을 제안한다. 이 방법은 원래 작업 성능을 희생시키지 않으면서 모델이 신원 표현어(term)에 의존하는 것을 줄여 공정성을 향상시키며, 알려진 유해어(term)에 초점을 맞춤으로써 저자료 환경에서의 성능을 향상시킨다. 이는 위키백과 유해 댓글 데이터셋에서 검증되었다.

ABSTRACT

Feature attribution methods, proposed recently, help users interpret the predictions of complex models. Our approach integrates feature attributions into the objective function to allow machine learning practitioners to incorporate priors in model building. To demonstrate the effectiveness our technique, we apply it to two tasks: (1) mitigating unintended bias in text classifiers by neutralizing identity terms; (2) improving classifier performance in a scarce data setting by forcing the model to focus on toxic terms. Our approach adds an L2 distance loss between feature attributions and task-specific prior values to the objective. Our experiments show that i) a classifier trained with our technique reduces undesired model biases without a trade off on the original task; ii) incorporating priors helps model performance in scarce data settings.

연구 동기 및 목표

• 텍스트 분류에서 모델 편향, 특히 신원 표현어와 유해성 예측 간의 부의적 연관성을 해결하기 위해.
• 원래 작업 성능을 훼손시키지 않고도 실무자들이 도메인 특화 사전 지식를 모델 학습에 주입할 수 있도록 하기 위해.
• 해석 가능한 특성 기여도를 학습 신호로 사용하여 모델의 바람직하지 않은 행동을 직접 수정할 수 있는 방법을 제공하기 위해.
• 기존에 알려진 유해어나 관련 표현어에 주의를 기울이도록 안내함으로써 저자료 환경에서의 모델 강인성과 성능을 향상시키기 위해.
• 정확도와 공정성 간의 트레이드오프를 피하면서 데이터 증강이나 적대적 탈편향 기법의 대안으로서 확장 가능한 실용적 대안을 제공하기 위해.

제안 방법

• 이 방법은 모델의 목적 함수에 사전에 선택된 토큰의 통합 기울기 attributions와 타겟 attributions 값(예: 신원 표현어에 대해 0, 유해어에 대해 1) 사이의 L2 거리 손실를 도입한다.
• 공정성 향상을 위해 신원 표현어는 타겟 attributions로 0을 할당하여, 이러한 표현어에 예측 기여도를 할당하는 것을 모델이 방지하도록 처벌한다.
• 저자료 성능 향상을 위해 알려진 유해어는 타겟 attributions로 1을 할당하여 학습 중에 이러한 표현어에 초점을 맞추도록 유도한다.
• 결합된 목적 함수에는 교차 엔트로피 손실과 기여도 기반 L2 손실가 모두 포함되어 있어 동시 최적화가 가능하다.
• 경로 통합 기울기(Path Integrated Gradients)를 사용하여 토큰 수준에서 작동함으로써 해석 가능성과 인간이 이해할 수 있는 입력 단위와의 일치를 확보한다.
• 이 방법은 최소한의 에포크 수로 미리 훈련된 모델을 미세조정함으로써 편향이 제거되고 더 강인한 예측을 달성할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 원래 작업 성능을 떨어뜨리지 않고도 텍스트 분류에서 신원 표현어에 대한 모델 편향을 줄일 수 있는가?
• RQ2 학습 목표에 사전 기여도 값을 통합하는 것이 유해 댓글 분류에서의 공정성 향상에 얼마나 효과적인가?
• RQ3 기여도 사전 지식를 활용해 알려진 유해어에 주의를 기울이도록 안내함으로써 저자료 환경에서의 모델 성능을 향상시킬 수 있는가?
• RQ4 제안된 방법은 표준 학습보다 더 높은 품질의 단어 표현을 부산물로 만들어내는가?
• RQ5 이 방법은 도메인 특화 특성 중요도 제약 조건이 필요한 다른 NLP 작업에 적용 가능한가?

주요 결과

• 제안된 방법으로 훈련된 모델는 원래 작업에서 비교적 동일하거나 더 높은 성능를 기록하면서도 신원 표현어에 대한 기여도를 크게 줄였다.
• 이 방법은 원래 작업 정확도를 훼손시키지 않고도 합성된 공정한 데이터셋에서 공정성 지표와 AUC를 향상시켰다.
• 위키백과 유해 댓글 데이터셋에서, 기준 모델 대비 모델이 신원 표현어(예: 'gay', 'jew')에 대해 평균적으로 더 낮은 기여도를 보였다.
• 저자료 환경에서는 타겟 기여도를 1로 설정하여 유해어에 주의를 기울이도록 유도함으로써 분류기 성능이 향상되었다.
• 이 방법은 기준 모델보다 더 높은 품질의 단어 벡터를 부산물로 만들어냈다.
• 기여도 손실를 사용한 미세조정은 몇 에포크 내에 편향이 제거된 분류기로 수렴했다.