[논문 리뷰] Can predictive models be used for causal inference?

Maximilian Pichler, Florian Härtig|arXiv (Cornell University)|2023. 06. 18.

Explainable Artificial Intelligence (XAI)인용 수 5

한 줄 요약

이 논문은 피어스의 뒷문 기준을 따르는 특징 선택이 이루어질 경우 예측 기계학습(ML) 및 딥러닝(DL) 모델이 인과 추론에 효과적으로 재사용될 수 있음을 보여준다. 인과 특징에 국한하여 모델 학습을 수행함으로써 딥 뉴럴 네트워크는 특징의 공선성 조건 하에서도 거의 편향이 없는 인과 효과 추정을 달성하며, 일반화 성능도 크게 향상된다—이는 예측과 해석 사이에 본질적인 상충관계가 존재한다는 오랫동안 지속된 믿음을 도전한다.

ABSTRACT

Supervised machine learning (ML) and deep learning (DL) algorithms excel at predictive tasks, but it is commonly assumed that they often do so by exploiting non-causal correlations, which may limit both interpretability and generalizability. Here, we show that this trade-off between explanation and prediction is not as deep and fundamental as expected. Whereas ML and DL algorithms will indeed tend to use non-causal features for prediction when fed indiscriminately with all data, it is possible to constrain the learning process of any ML and DL algorithm by selecting features according to Pearl's backdoor adjustment criterion. In such a situation, some algorithms, in particular deep neural networks, can provide near unbiased effect estimates under feature collinearity. Remaining biases are explained by the specific algorithmic structures as well as hyperparameter choice. Consequently, optimal hyperparameter settings are different when tuned for prediction or inference, confirming the general expectation of a trade-off between prediction and explanation. However, the effect of this trade-off is small compared to the effect of a causally constrained feature selection. Thus, once the causal relationship between the features is accounted for, the difference between prediction and explanation may be much smaller than commonly assumed. We also show that such causally constrained models generalize better to new data with altered collinearity structures, suggesting generalization failure may often be due to a lack of causal learning. Our results not only provide a perspective for using ML for inference of (causal) effects but also help to improve the generalizability of fitted ML and DL models to new data.

연구 동기 및 목표

• 예측 기계학습 및 딥러닝 모델이 일반적으로 비인과적 상관관계에 기반한 가정이 존재하더라도 인과 추론에 사용될 수 있는가를 조사하는 것.
• 인과 기반 특징 선택이 인과 효과 추정에서 모델의 편향과 일반화 능력에 미치는 영향을 평가하는 것.
• 예측과 추론을 위한 하이퍼파rameter 튜닝을 비교하여 최적 설정의 차이를 규명하는 것.
• 다양한 공선성 구조로 변경된 조건에서의 모델 성능을 평가하여 훈련 데이터를 초월한 일반화 능력을 시험하는 것.
• 기계학습에서 예측 정확도와 인과적 해석 가능성 사이에 인식된 본질적 상충관계가 실제로 존재하는가를 도전하는 것.

제안 방법

• 피어스의 뒷문 기준을 적용하여 뒷문 혼란 경로를 차단하는 특징을 선택함으로써 인과적 특정성을 확보하는 것.
• 인과적으로 선택된 특징을 기반으로 표준 기계학습 및 딥러닝 모델(예: 순환 신경망)을 훈련시켜 인과 효과를 추정하는 것.
• 역사적 예측 및 효과 추정을 활용하여 학습된 모델의 편향과 정밀도를 평가하는 것.
• 특징 공선성 수준을 다양하게 변화시켜 모델의 강건성과 일반화 능력을 평가하는 것.
• 예측과 추론 목표를 별도로 하이퍼파rameter 튜닝하여 최적화 목표의 영향을 분리하는 것.
• 다양한 데이터 생성 과정에서의 편향, 분산 및 일반화 능력을 평가하기 위해 시뮬레이션 연구를 수행하는 것.

실험 결과

연구 질문

• RQ1 인과적으로 선택된 특징을 기반으로 훈련된 예측 기계학습 모델이 편향 없는 인과 효과 추정을 도출할 수 있는가?
• RQ2 뒷문 기준에 기반한 특징 선택이 인과 추론에서 모델의 편향과 일반화 능력에 어떤 영향을 미치는가?
• RQ3 인과적 특징을 기반으로 훈련할 경우, 예측 성능와 인과적 해석 가능성 사이에 유의미한 상충관계가 존재하는가?
• RQ4 예측과 인과 추론을 최적화하기 위해 하이퍼파rameter 설정이 어떻게 다를 수 있는가?
• RQ5 인과적 특징 선택은 변경된 데이터 분포 하에서 모델의 일반화 능력을 어느 정도 향상시키는가?

주요 결과

• 인과적 제약이 가해진 특징 선택은 고도로 공선성이 있는 조건 하에서도 딥 뉴럴 네트워크가 거의 편향 없는 인과 효과 추정을 가능하게 한다.
• 모델 추정의 편향은 비인과적 특징의 존재보다 알고리즘 구조와 하이퍼파rameter 설정에 의해 주로 결정되며, 적절한 선택 기준이 적용될 경우 이에 영향을 받지 않는다.
• 인과적 특징 선택을 통해 훈련된 모델은 공선성 구조가 변경된 새로운 데이터에 대해 훨씬 더 우수한 일반화 성능를 보이며, 이는 일반화 실패가 종종 인과 학습의 부족에서 기인한다는 것을 시사한다.
• 추론을 위한 하이퍼파rameter 튜닝은 예측을 위한 것과 다른 설정이 필요하며, 이는 상충관계가 존재함을 확인한다—그러나 이 상충관계는 인과적 특징 선택의 영향에 비하면 미미하다.
• 인과적 구조가 특징 선택에 적절히 반영될 경우, 예측 성능와 인과적 해석 가능성 사이의 격차는 일반적으로 상상하는 것보다 훨씬 작다.
• 인과적 특징 선택은 비인과적 상관관계에 대한 의존도를 감소시켜 인과 설정에서의 해석 가능성과 강건성을 모두 향상시킨다.