[논문 리뷰] Estimating individual treatment effect: generalization bounds and algorithms

Uri Shalit, Fredrik Johansson외 1명|arXiv (Cornell University)|2016. 06. 13.

Advanced Causal Inference Techniques인용 수 391

한 줄 요약

본 논문은 strong ignorability 하에서 개별 치료 효과(ITE) 추정 오차에 대한 바운드를 도출하고, treatment와 control 그룹의 균형을 맞추어 ITE 추정을 개선하는 표현 학습 프레임워크인 CFR을 도입한다. 또한 최첨단 방법과 경쟁력 있는 성능을 보이는 실험을 제시한다.

ABSTRACT

There is intense interest in applying machine learning to problems of causal inference in fields such as healthcare, economics and education. In particular, individual-level causal inference has important applications such as precision medicine. We give a new theoretical analysis and family of algorithms for predicting individual treatment effect (ITE) from observational data, under the assumption known as strong ignorability. The algorithms learn a "balanced" representation such that the induced treated and control distributions look similar. We give a novel, simple and intuitive generalization-error bound showing that the expected ITE estimation error of a representation is bounded by a sum of the standard generalization-error of that representation and the distance between the treated and control distributions induced by the representation. We use Integral Probability Metrics to measure distances between distributions, deriving explicit bounds for the Wasserstein and Maximum Mean Discrepancy (MMD) distances. Experiments on real and simulated data show the new algorithms match or outperform the state-of-the-art.

연구 동기 및 목표

• 관찰 데이터에서 ITE의 정확한 추정을 위한 동기를 제시한다.
• ITE 추정에 대한 일반화 오차를 도출하는데, 이는 사실적 오차와 처리군과 대조군 간의 분포 차이로 분해된다.
• ITE 추정을 개선하기 위해 처리군과 대조군 분포 간의 균형을 강제하는 표현 학습 프레임워크를 제안한다.
• IPM 기반 정규화를 통해 상한을 최소화하도록 엔드투엔드 신경망 기반 알고리즘을 개발하고 평가한다.
• 세미-합성 데이터 및 실제 데이터에서 기존 방법에 대비한 실험적 성능을 입증한다.

제안 방법

• 각 치료에 따른 결과 예측을 위해 Phi 표현과 Phi 위의 가설 h를 정의한다.
• Phi 공간에서 ITE 오차를 사실적 손실과 p(x|t=0)와 p(x|t=1) 사이의 분포 거리를 연결하는 IPM 기반 바운드를 도출한다.
• 계산 가능한 IPM으로 Wasserstein 거리 또는 MMD를 사용하여 분포 불일치를 정량화한다.
• CFR (Counterfactual Regression) 제안: Phi와 두 개의 헤드 h0, h1을 공동으로 학습하여 대조군과 처리군의 결과를 예측하는 엔드-투-엔드 신경망으로, IPM을 기반으로 한 균형-정규화 항을 포함한다.
• 분포적 균형 항이 없는 TARNet 변형을 제공한다.
• 가중된 경험적 손실과 IPM 기반 정규화를 사용한 확률적 기울기 하강법으로 학습하여 PEHE(heterogeneous effect 추정의 정밀도)에 대한 상한을 최소화한다.

실험 결과

연구 질문

• RQ1 강한 무시 가능성 하에서 관찰 데이터로부터 ITE를 추정할 때 일반화 오차는 얼마나 큰가?
• RQ2 학습된 표현이 처리군과 대조군 간의 분포 불일치를 줄여 ITE 추정을 향상시킬 수 있는가?
• RQ3 IPM 기반 정규화(Wasserstein 또는 MMD)가 표준 공변량 보정 모델과 비교하여 ITE 추정을 향상시키는가?
• RQ4 세미-합성 및 실제 데이터에서 CFR 접근법이 기존 방법들(예: Causal Forests, TMLE, BLR/BART)보다 우수한가?
• RQ5 제안된 방법은 샘플 내(in-sample) 및 샘플 외(out-of-sample) ITE 추정 작업에서 어떻게 성능을 나타내는가?

주요 결과

• 바운드는 ITE 추정 오차가 사실적 손실의 합과 처리군 및 대조군 표현 간의 분포 거리 항의 합으로 상한이 잡힘을 보인다.
• 해당 바운드는 Integral Probability Metrics(IPMs)를 사용하고 학습된 표현에 대해 Wasserstein 거리 또는 MMD를 통한 실용적인 정규화를 제시한다.
• 처리와 대조에 대해 분리된 헤드를 갖는 신경망 프레임워크 CFR(Counterfactual Regression)는 표현에서 처리의 영향력을 유지함으로써 ITE 추정을 개선한다.
• 세미-합성 IHDP 및 실제 Jobs 데이터에 대한 실험 결과는 CFR 및 균형화 변형이 여러 baselines를 능가하고 최신 방법과 경쟁력을 보임을 보여준다.
• 배분 균형 정규화를 제거한 TARNet 변형이 포함되어 분포 균형의 영향력을 평가한다.
• 해당 방법은 선형 모델을 넘어 심층 표현과 비선형 가설로 일반화되며 정규화를 위한 IPM 기반 거리 활용한다.