[논문 리뷰] Counterfactual Invariance to Spurious Correlations: Why and How to Pass Stress Tests

Victor Veitch, Alexander D’Amour외 2명|arXiv (Cornell University)|2021. 05. 31.

Topic Modeling인용 수 17

한 줄 요약

이 논문은 기계학습에서 반대 조건 불변성에 기반해 스트레스 테스트를 체계화하며, 예측기가 성별이나 텍스트의 정서와 같이 관련이 없는 입력 특성에 대해 변형이 가해져도 동일하게 유지되어야 한다고 보여준다. 인과적 구조에 기반한 관측 가능하고 검증 가능한 조건을 도출하고, 인과적 데이터 모델과 반인과적 데이터 모델를 구분하며, 도메인 분포 변화에 대비한 예측기 학습을 위한 정규화 기법을 제안한다. 이는 텍스트 분류에서의 실증적 검증을 통해 입증되었다.

ABSTRACT

Informally, a 'spurious correlation' is the dependence of a model on some aspect of the input data that an analyst thinks shouldn't matter. In machine learning, these have a know-it-when-you-see-it character; e.g., changing the gender of a sentence's subject changes a sentiment predictor's output. To check for spurious correlations, we can 'stress test' models by perturbing irrelevant parts of input data and seeing if model predictions change. In this paper, we study stress testing using the tools of causal inference. We introduce counterfactual invariance as a formalization of the requirement that changing irrelevant parts of the input shouldn't change model predictions. We connect counterfactual invariance to out-of-domain model performance, and provide practical schemes for learning (approximately) counterfactual invariant predictors (without access to counterfactual examples). It turns out that both the means and implications of counterfactual invariance depend fundamentally on the true underlying causal structure of the data -- in particular, whether the label causes the features or the features cause the label. Distinct causal structures require distinct regularization schemes to induce counterfactual invariance. Similarly, counterfactual invariance implies different domain shift guarantees depending on the underlying causal structure. This theory is supported by empirical results on text classification.

연구 동기 및 목표

• 스트레스 테스트를 반대 조건 불변성으로 체계화하여, 예측기가 관련이 없는 입력 특성(예: 성별 또는 텍스트의 정서)에 간섭이 가해져도 예측이 변화하지 않도록 보장한다.
• 기본 인과적 구조를 분석함으로써 반대 조건 불변성과 도메인 외부 일반화 간의 관계를 명확히 한다.
• 반대 조건 불변성을 강제하기 위해 반대 조건 예시가 필요 없이도 실용적이고 데이터 기반의 정규화 방법을 개발한다.
• 다른 인과적 구조(인과적 vs. 반인과적)는 불변성과 강건성 달성을 위해 서로 다른 학습 전략이 필요하다는 점을 밝힌다.

제안 방법

• 반대 조건 불변성을 공식 조건으로 도입: 예측기는 임의의 특성 Z에 대한 간섭이 일어나도 f(X(z)) = f(X(z')) 거의 전역에서 동일한 출력을 내야 한다.
• 조건부 및 주변 독립 기준(예: f(X) ⊥ Z | Y)을 사용해 반대 조건 불변성의 관측 가능한 함의를 유도하며, 이를 관측 데이터에서 검증할 수 있다.
• 학습 중에 이러한 독립 조건을 강제하는 정규화 기법을 제안함으로써, 반대 조건 예시 생성 없이도 근사적인 반대 조건 불변성을 달성할 수 있다.
• 두 가지 핵심 인과적 구조를 구분한다: (1) Y가 X를 결정하고, Z가 X에 영향을 주는 인과적 방향, (2) Z와 Y가 공통 원인을 공유하며, X가 둘 다의 함수인 반인과적 방향으로, 각각 다른 정규화 전략이 필요하다.
• 텍스트 분류에 이 프레임워크를 적용하여 실제 데이터셋을 사용해, 이러한 기준에 따라 학습된 모델이 스트레스 테스트에 통과하고 도메인 분포 변화에 더 잘 일반화됨을 검증한다.
• 반대 조건 불변성이 공정성 및 도메인 적응과 연결되며, 특정 해석 하에 민감성 평등성과 동일한 조건으로 해석 가능하다는 점을 보여준다.

실험 결과

연구 질문

• RQ1 어떻게 인과 추론을 활용해 스트레스 테스트를 체계화하여 허위 상관관계에 대비한 모델의 강건성을 확보할 수 있는가?
• RQ2 실제 데이터에서 반대 조건 불변성을 유도하는 관측 가능하고 검증 가능한 조건은 무엇인가?
• RQ3 기본 인과적 구조(인과적 vs. 반인과적)는 반대 조건 불변성을 달성하기 위한 정규화 방법 설계에 어떻게 영향을 미치는가?
• RQ4 반대 조건 불변성은 도메인 외부 일반화에 어떤 보장을 제공하며, 이 보장은 인과적 구조에 따라 어떻게 달라지는가?
• RQ5 반대 조건 예시에 접근할 수 없을 때도 반대 조건 불변성을 강제할 수 있는가? 만약 가능하면, 어떻게 실현할 수 있는가?

주요 결과

• 반대 조건 불변성은 모든 z, z' ∈ Z의 지지체에서 f(X(z)) = f(X(z'))를 요구하는 조건으로 체계화되며, 이는 예측이 관련 없는 변형에 대해 불변함을 보장한다.
• 논문은 두 가지 명백한 인과적 구조—(1) Y → X, Z → X(인과적 방향)와 (2) Z와 Y가 공통 원인을 공유하며 X가 둘 다의 함수인 반인과적 방향—를 식별하며, 이는 서로 다른 정규화 전략이 필요하다는 점을 밝힌다.
• 관측 가능한 독립 조건(예: f(X) ⊥ Z | Y)은 반대 조건 불변성의 충분조건으로 도출되며, 이는 반대 조건 데이터 없이도 학습이 가능하게 한다.
• 이 방법은 도메인 외부 일반화를 향상시키며, 인과적 구조가 정확히 식별된 경우에 특히 분포 변화에 대한 강건성이 높아진다.
• 텍스트 분류에서의 실증 결과는, 제안된 정규화 기법을 사용해 학습된 모델이 스트레스 테스트에 통과하고 도메인 분포 변화에 더 잘 일반화됨을 확인한다.
• 프레임워크는 공정성 기반 정규화(예: 반대 조건 공정성에서 유래한 것)를 난이도 있게 적용할 경우 반인과적 환경에서는 실패할 수 있음을 드러내며, 인과적 구조를 고려한 설계의 필요성을 강조한다.