[논문 리뷰] Machine learning in policy evaluation: new tools for causal inference

Noémi Kreif, Karla Díaz-Ordaz|arXiv (Cornell University)|2019. 03. 01.

Advanced Causal Inference Techniques인용 수 9

한 줄 요약

이 논문은 정책 평가에서 인과적 추론을 위한 기계학습(ML) 기법을 소개하며, 비편향성과 정규성 조건 하에서 평균 치료 효과(ATE)를 추정하는 데 중점을 둔다. ML—특히 이중로버스트 추정기, 슈퍼러너 앙상블, 노이즈 파라미터 추정—을 통해 모델의 유연성 향상, 모델 오Specification으로 인한 편향 감소, 그리고 인도네시아의 실질적인 보건 정책 데이터를 활용한 치료 효과 추정의 투명성 향상을 보여준다.

ABSTRACT

While machine learning (ML) methods have received a lot of attention in recent years, these methods are primarily for prediction. Empirical researchers conducting policy evaluations are, on the other hand, pre-occupied with causal problems, trying to answer counterfactual questions: what would have happened in the absence of a policy? Because these counterfactuals can never be directly observed (described as the "fundamental problem of causal inference") prediction tools from the ML literature cannot be readily used for causal inference. In the last decade, major innovations have taken place incorporating supervised ML tools into estimators for causal parameters such as the average treatment effect (ATE). This holds the promise of attenuating model misspecification issues, and increasing of transparency in model selection. One particularly mature strand of the literature include approaches that incorporate supervised ML approaches in the estimation of the ATE of a binary treatment, under the extit{unconfoundedness} and positivity assumptions (also known as exchangeability and overlap assumptions). This article reviews popular supervised machine learning algorithms, including the Super Learner. Then, some specific uses of machine learning for treatment effect estimation are introduced and illustrated, namely (1) to create balance among treated and control groups, (2) to estimate so-called nuisance models (e.g. the propensity score, or conditional expectations of the outcome) in semi-parametric estimators that target causal parameters (e.g. targeted maximum likelihood estimation or the double ML estimator), and (3) the use of machine learning for variable selection in situations with a high number of covariates.

연구 동기 및 목표

• 정책 평가에서 인과적 추론의 근본적 과제인 관측되지 않은 반사적 결과의 존재를 다루기.
• 기존의 예측 중심 ML의 한계를 극복하고, 비편향성 조건 하에서 인과 추정을 위해 ML을 적응시키기.
• 데이터 적응형 ML 방법을 통합함으로써 치료 효과 추정의 투명성 향상과 모델 의존성 감소.
• 실제로 반모수적 추정기(예: 타겟드 최대우도 추정, 이중 ML)에 ML 도구를 구현하여 ATE 추정의 실용적 적용을 보여주기.
• 보건 및 사회 정책에서 흔한 대량 데이터에서의 고차원 설정에서 ML의 유용성 입증하기.

제안 방법

• 노이즈 파라미터를 추정하기 위해 라소, 트리 기반 방법(예: 랜덤 포레스트), 슈퍼러너를 통한 앙상블 학습을 포함한 지도 학습 알고리즘을 활용.
• 이중로버스트 추정기에서 ML을 사용해 성향 스코어와 잠재적 결과를 추정하며, 결과 회귀와 성향 스코어 모델을 결합.
• 타겟드 최대우도 추정(TMLE)과 이중 기계학습(DML)을 적용하여, 노이즈 모델이 유연한 ML 방법으로 추정되더라도 루트-n 일관성과 타당한 추론을 유지.
• 교차검증과 손실 기반 슈퍼러닝을 사용해 다수의 ML 알고리즘을 하나의 최적 예측 모델로 조합.
• 고차원 ML에서의 변수 선택 기법(예: 라소)을 활용해 많은 공변량(d >> n)을 포함한 데이터셋을 처리.
• 슈퍼러너를 통한 반자동 모델 선택을 구현하여 주관적인 모델 선택 의존도를 감소시키고 강건성을 향상.

실험 결과

연구 질문

• RQ1 기계학습 기법은 관찰 연구에서 평균 치료 효과(ATE)와 같은 인과 효과를 추정하는 데 어떻게 적응시킬 수 있는가?
• RQ2 ML은 이중로버스트 추정기의 노이즈 파라미터(예: 성향 스코어, 결과 회귀) 추정을 어떻게 향상시킬 수 있는가?
• RQ3 ML 기반 변수 선택은 많은 공변량을 포함한 고차원 설정에서 인과 추정기의 성능을 향상시킬 수 있는가?
• RQ4 슈퍼러너와 같은 앙상블 ML 방법의 사용은 정책 평가에서 투명성 향상과 모델 의존성 감소에 어떻게 기여하는가?
• RQ5 실제 정책 평가, 예를 들어 인도네시아의 국가 건강보험 제도에 ML을 적용하는 데 실질적 의미는 무엇인가?

주요 결과

• 특히 이중로버스트 추정기 내부에 통합된 기계학습 기법은 ATE 추정에서 모델 오Specification으로 인한 편향을 크게 감소시킨다.
• 슈퍼러너 앙상블 접근법은 개별 ML 모델의 장점을 조합함으로써 더 정확하고 안정적인 노이즈 파라미터 추정을 이끌어내어 개선된 성능을 보인다.
• ML 피팅을 사용한 이중 기계학습(DML)과 타겟드 최대우도 추정(TMLE)은 노이즈 모델이 민감한 ML 방법으로 추정되더라도 여전히 루트-n 일관성과 타당한 추론을 유지한다.
• 고차원 설정(d >> n)에서는 라소 및 기타 정규화된 ML 방법이 효과적인 변수 선택을 가능하게 하고 추정 효율성을 향상시킨다.
• ML 기반 접근법은 주관적인 선택을 데이터 기반의 교차검증 기반 모델 평균화로 대체함으로써 모델 선택의 투명성을 증가시킨다.
• 인도네시아의 건강보험 제도에 대한 적용 사례는 ML 강화 인과 추론이 실제 정책 평가 맥락에서 실현 가능하고 효과적임을 보여준다.