[논문 리뷰] Learning Variational Word Masks to Improve the Interpretability of Neural Text Classifiers

Hanjie Chen, Yangfeng Ji|arXiv (Cornell University)|2020. 10. 01.

Explainable Artificial Intelligence (XAI)참고 문헌 55인용 수 5

한 줄 요약

이 논문은 신경망 텍스트 분류기에서 불필요하거나 노이즈가 있는 단어 특징을 억제하기 위해 변분 추론을 적용하여 작업에 특화된 전역적 단어 중요도를 학습하는 Variational Word Masks (Vmask)를 제안한다. CNN, LSTM, BERT와 같은 모델의 입력 레이어에 Vmask를 통합함으로써 인간의 주석이나 사전 지식 없이도 예측 정확도와 해석 가능성 양측을 향상시키며, 일곱 개의 벤치마크 데이터셋에서 우수한 국소적 및 전역적 설명 품질을 달성한다.

ABSTRACT

To build an interpretable neural text classifier, most of the prior work has focused on designing inherently interpretable models or finding faithful explanations. A new line of work on improving model interpretability has just started, and many existing methods require either prior information or human annotations as additional inputs in training. To address this limitation, we propose the variational word mask (VMASK) method to automatically learn task-specific important words and reduce irrelevant information on classification, which ultimately improves the interpretability of model predictions. The proposed method is evaluated with three neural text classifiers (CNN, LSTM, and BERT) on seven benchmark text classification datasets. Experiments show the effectiveness of VMASK in improving both model prediction accuracy and interpretability.

연구 동기 및 목표

• 인간의 주석이나 사전 지식에 의존하지 않고 작업에 특화된 전역적 단어 중요도를 학습함으로써 신경망 텍스트 분류기의 해석 가능성을 향상시키는 것.
• 후행 해석 방법의 한계(모델의 해석 가능성을 향상시킬 수 없음)를 해결하기 위해 해석 가능성을 모델 학습 과정 자체에 직접 통합하는 것.
• 기존 모델 아키텍처에 영향을 주지 않고도 예측 성능과 설명의 정확성 향상을 동시에 달성할 수 있는 기계학습 가능한, 미분 가능한 마스킹 메커니즘을 갖춘 모델 독립적 방법을 개발하는 것.
• 유사한 아키텍처를 가진 모델 간에도 해석 가능성에 상당한 차이가 있으며, 이러한 차이를 Vmask를 통해 체계적으로 향상시킬 수 있음을 보여주는 것.

제안 방법

• Vmask는 단어 임베딩 레이어 이후에 삽입되며, 불필요하거나 노이즈가 있는 특징을 억제하기 위해 단어 마스크에 대한 변분 사후 분포를 학습한다.
• 이 방법은 정보 차단 이론(IB) 프레임워크 내에서 제안되며, 입력 단어와 모델 예측 간의 상관관계를 최소화하면서도 예측 정보는 유지하는 것을 목표로 변분 근사를 사용한다.
• 변분 추론을 통해 IB 목적 함수의 하한을 유도함으로써 모델과 Vmask의 파라미터를 동시에 엔드 투 엔드로 학습할 수 있도록 한다.
• 각 토큰에 대한 단어 마스크는 기울기 전파가 가능한 게이트로 파arameterized된 베르누이 분포에서 샘플링된다.
• 이 방법은 핵심 구조를 수정하지 않고도 CNN, LSTM, BERT 세 가지 아키텍처에 적용 가능하므로 모델 독립적이다.
• 국소적 및 전역적 해석 가능성을 평가하기 위해 LIME과 SP-LIME를 사용하여 후행 해석을 생성한다.

실험 결과

연구 질문

• RQ1 인간의 주석이 필요 없이도 기계학습 가능한, 학습 가능한 마스킹 메커니즘이 신경망 텍스트 분류기의 해석 가능성을 향상시킬 수 있는가?
• RQ2 Vmask를 통해 작업에 특화된 단어 중요도를 학습하면, 표준 모델 대비 더 신뢰할 수 있고 정확한 후행 해석이 가능해지는가?
• RQ3 Vmask는 저중요도 또는 고빈도 단어에 대한 의존도를 줄이며 예측 정확도를 얼마나 향상시키는가?
• RQ4 Vmask는 다양한 아키텍처(CNN, LSTM, BERT)와 텍스트 분류 작업 전반에 효과적으로 적용될 수 있는가?

주요 결과

• Vmask는 일곱 개의 벤치마크 데이터셋 전반에서 예측 정확도를 향상시켰으며, IMDB, Subj, Yelp에서는 뚜렷한 성능 향상을 보여 일반화 능력과 강인성을 향상시켰다.
• Vmask 기반 모델의 후행 LIME 해석은 항상 감성 키워드(예: 'excellent', 'brilliant', 'thrilling')를 강조하는 반면, 기본 모델은 'plot'이나 'to'와 같이 관련 없는 단어를 선택했다.
• SP-LIME를 통한 전역 중요도 분석 결과, Vmask 기반 모델은 주제 관련 단어(예: 'favorite', 'powerful')만 선택한 반면, 기본 모델은 'performances'나 'butcher'처럼 의미적으로 관련 없는 단어를 강조했다.
• 단어 빈도와 Vmask 중요도 간 피어슨 상관계수가 유의미하지 않아, Vmask가 단순히 고빈도 단어를 우선시하지 않는다는 점을 확인했다.
• 워드 클라우드 시각화 결과, Vmask가 선택한 단어들은 작업에 의미적으로 일관된 내용(예: 감성 분석에선 'funnest', 뉴스 분류에선 'spaceport')을 반영한 반면, IBA 기반 베이스라인은 'undress'나 'slurred'처럼 관련 없는 단어를 선택했다.
• 마스크 기대값 분석 결과, 감성 단어, 심지어 저빈도 단어인 'craveable'이나 'funnest'조차도 높은 마스크 값(>0.8)을 기록했으며, 고빈도 단어는 마스크 값이 약 0.5 수준에 머물러 의미 있는 특징에 대한 선택적 주의를 보였다.