[논문 리뷰] Estimating Causal Effects with Double Machine Learning -- A Method Evaluation

Jonathan Fuhr, Philipp Berens외 1명|arXiv (Cornell University)|2024. 03. 21.

Machine Learning and Data Classification인용 수 6

한 줄 요약

논문은 이중/편향 제거 머신러닝(DML)을 인과 효과 추정에 대해 평가하고, 전통적 방법과 비교하며 실제 데이터에 적용해 연구자들을 위한 실용적 지침을 제공한다.

ABSTRACT

The estimation of causal effects with observational data continues to be a very active research area. In recent years, researchers have developed new frameworks which use machine learning to relax classical assumptions necessary for the estimation of causal effects. In this paper, we review one of the most prominent methods - "double/debiased machine learning" (DML) - and empirically evaluate it by comparing its performance on simulated data relative to more traditional statistical methods, before applying it to real-world data. Our findings indicate that the application of a suitably flexible machine learning algorithm within DML improves the adjustment for various nonlinear confounding relationships. This advantage enables a departure from traditional functional form assumptions typically necessary in causal effect estimation. However, we demonstrate that the method continues to critically depend on standard assumptions about causal structure and identification. When estimating the effects of air pollution on housing prices in our application, we find that DML estimates are consistently larger than estimates of less flexible methods. From our overall results, we provide actionable recommendations for specific choices researchers must make when applying DML in practice.

연구 동기 및 목표

• 관찰 데이터에서 인과 효과 추정을 위한 이중/편향 제거 머신러닝(DML)의 성능을 평가한다.
• 시뮬레이션과 실제 응용에서 DML을 기존 통계 방법과 비교한다.
• DML에서 유연한 ML이 비선형 혼동에 대한 보정을 향상시키는 경우와 가정이 DML을 한계에 두는 경우를 식별한다.
• DML에서 변수 선택, 알고리즘 선택, 구현 세부사항에 대한 실행 가능한 권고를 제공한다.

제안 방법

• 부분 선형 모형에서의 DML 프레임워크와 직관을 검토한다.
• 전통적 방법과 비교하여 광범위한 시뮬레이션 설정에서 DML을 평가한다.
• 실세계의 대기 오염 및 주택 가격 데이터에 DML을 적용해 대안 방법과 비교한다.
• 혼동 형태, 혼동 변수 수, 모델링 선택이 DML 성능에 미치는 영향을 평가한다.
• 실무자를 위한 ML 알고리즘 선택, 교차적합(cross-fitting), 샘플 분할에 대한 가이드를 제공한다.
• DML의 ML 알고리즘 선택을 돕는 간단한 지표를 제시한다.

실험 결과

연구 질문

• RQ1 다양한 혼동 구조와 차원에서 DML은 전통적 방법에 비해 어떻게 작동하는가?
• RQ2 설정 전반에서 비선형 혼동을 가장 잘 다루는 DML 내 ML 알고리즘은 무엇인가?
• RQ3 현장 연구에서 DML 구현(폴드, 반복, 변수 선택)에 대해 어떤 실용적 가이드를 제공할 수 있는가?
• RQ4 대기 오염 및 주택 가격에 대한 실제 데이터에 적용했을 때 DML 추정치가 다른 방법과 어떻게 비교되는가?

주요 결과

• DML의 유연한 ML은 비선형 혼동에 대한 보정을 개선하고 함수 형태 가정을 완화한다.
• 적절한 변수 변환 없이의 라쏘는 비선형 혼동하에서 편향된 DML 추정치를 내는 경향이 있다.
• 그라디언트 부스팅(XGBoost)은 설정에 관계없이 좋은 성능을 보이며 DML의 기본 기준으로 권장된다.
• DML은 올바른 인과 구조와 식별에 의존하며 관찰되지 않은 혼동이나 잘못된 컨트롤에 대한 해결책이 아니다.
• 대기 오염-주택 가격 응용에서의 DML 추정치는 덜 유연한 방법들보다 일관되게 크다.
• 연구자들이 DML용 ML 알고리즘을 선택하는 데 도움이 되는 간단한 지표가 제안된다.