[논문 리뷰] Learning the Difference that Makes a Difference with Counterfactually-Augmented Data

Divyansh Kaushik, Eduard Hovy외 1명|arXiv (Cornell University)|2019. 09. 26.

Anomaly Detection Techniques and Applications참고 문헌 33인용 수 232

한 줄 요약

저자들은 크라우드 워커를 통해 카운터팩츄얼리 편집된 감정 및 NLI 데이터를 만들어 우발적 신호와 진짜 신호를 구분하고, 원본 데이터와 카운터팩추얼리 수정된 데이터를 혼합해 학습한 모델이 우발적 단서에 대해 더 강건해진다는 것을 보인다.

ABSTRACT

Despite alarm over the reliance of machine learning systems on so-called spurious patterns, the term lacks coherent meaning in standard statistical frameworks. However, the language of causality offers clarity: spurious associations are due to confounding (e.g., a common cause), but not direct or indirect causal effects. In this paper, we focus on natural language processing, introducing methods and resources for training models less sensitive to spurious patterns. Given documents and their initial labels, we task humans with revising each document so that it (i) accords with a counterfactual target label; (ii) retains internal coherence; and (iii) avoids unnecessary changes. Interestingly, on sentiment analysis and natural language inference tasks, classifiers trained on original data fail on their counterfactually-revised counterparts and vice versa. Classifiers trained on combined datasets perform remarkably well, just shy of those specialized to either domain. While classifiers trained on either original or manipulated data alone are sensitive to spurious features (e.g., mentions of genre), models trained on the combined data are less sensitive to this signal. Both datasets are publicly available.

연구 동기 및 목표

• NLP에서 우발적 연관성에 대한 인과성 영감을 얻은 시각을 제시하고, 우발적 신호와 비우발적 신호를 구분한다.
• 문서가 일관성을 유지하면서도 반사실적 레이블에 맞게 편집되도록 사람을 포함한 데이터 수집 프로세스를 도입한다.
• IMDb 감정 분석과 SNLI 데이터셋을 카운터팩추얼리 수정된 예제로 확장하여 모델의 강건성을 연구한다.
• 원본, 수정된 데이터 및 결합 데이터를 학습한 모델이 분포 이동 및 도메인 전이하에서 어떻게 수행하는지 평가한다.

제안 방법

• 크라우드 워커가 텍스트를 수정하여 반사실적 레이블이 적용되도록 하되 일관성을 유지하고 불필요한 변경을 최소화한다.
• 기존 자원을 확장하여 카운터팩추얼리 수정된 감정(IMDb) 및 NLI(SNLI) 데이터를 수집한다.
• 원본, 수정, 결합 데이터셋에서 여러 모델(SVM, NB, Bi-LSTM, ELMo-LSTM, BERT)을 학습 및 평가한다.
• 도메인 내/외 성능을 비교하고, 우발적 단서에 대한 의존성의 변화를 분석한다.
• 편집 패턴과 특징 중요도를 점검하여 어떤 단서가 증강 후 비예측 가능해지는지 식별한다.

실험 결과

연구 질문

• RQ1 카운터팩추얼리 편집된 데이터가 NLP 작업에서 우발적 신호를 실제 예측 신호와 구분할 수 있는가?
• RQ2 원본과 카운터팩추얼리 수정된 데이터를 결합해 학습한 모델이 수정되거나 도메인 외 입력에 더 잘 일반화되는가?
• RQ3 다양한 모델 계열(선형, Bi-LSTM, ELMo, BERT)이 감정 분석 및 NLI에서 카운터팩추얼리 강화된 데이터에 어떻게 반응하는가?
• RQ4 레이블을 바꾸는 인간의 질적 편집 패턴은 무엇이며, 이것이 학습된 특징에 어떤 영향을 미치는가?

주요 결과

• 수정된 데이터로 학습한 모델은 수정된 데이터에서는 성능이 좋고 원본 데이터에서는 그렇지 않으며, 그 반대의 경향도 관찰된다.
• 결합 학습 데이터는 원본 데이터와 수정된 데이터 모두에서 강력한 성능을 보여주며, 종종 해당 단일 도메인 모델과 약 3포인트 이내의 차이를 보인다.
• 우발적 단서(예: 감정에서의 장르 언급)는 훈련에 수정된 데이터가 포함되면 예측력이 감소한다.
• BERT는 카운터팩추얼 수정으로 인한 성능 하락에 더 강한 회복력을 보이는 경향이 있으며, 데이터 결합으로 얻는 이점은 여전히 분명하다.
• SNLI 기반 실험에서 가설문만으로의 신호나 전제문만의 신호는 취약하며, RP 및 RH 변형에 대한 미세조정은 전제문과 가설문 모두를 살펴봐야 견고한 성능이 나온다.
• 도메인 외 테스트(Amazon, Twitter, Yelp)에서 카운터팩추얼 강화 IMDb 학습 모델이 원본 데이터만 학습한 모델보다 일반적으로 더 잘 수행한다.