[논문 리뷰] De-biased Machine Learning for Compliers

Rahul Singh, Liyang Sun|arXiv (Cornell University)|2019. 09. 10.

Economic Policies and Impacts인용 수 4

한 줄 요약

이 논문은 고차원 설정에서 고전적 변수를 사용하여 컴파일러 파rameter(예: 국소 평균 치료 효과 및 반사적 결과 분포)를 추정하기 위한 탈편향된 기계학습 방법인 DML-RRR를 제안한다. 이 방법은 일致성, 점근 정규성 및 반모수 효율성을 보장하며, 시뮬레이션과 401(k) 참가 효과에 대한 실세계 분석에서 기존 방법보다 뛰어난 성능을 보인다.

ABSTRACT

Instrumental variable identification is a concept in causal statistics for estimating the counterfactual effect of treatment D on output Y controlling for covariates X using observational data. Even when measurements of (Y,D) are confounded, the treatment effect on the subpopulation of compliers can nonetheless be identified if an instrumental variable Z is available, which is independent of (Y,D) conditional on X and the unmeasured confounder. We introduce a de-biased machine learning (DML) approach to estimating complier parameters with high-dimensional data. Complier parameters include local average treatment effect, average complier characteristics, and complier counterfactual outcome distributions. In our approach, the de-biasing is itself performed by machine learning, a variant called de-biased machine learning via regularized Riesz representers (DML-RRR). We prove our estimator is consistent, asymptotically normal, and semi-parametrically efficient. In experiments, our estimator outperforms state of the art alternatives. We use it to estimate the effect of 401(k) participation on the distribution of net financial assets.

연구 동기 및 목표

• 혼동 요인이 존재하는 고차원 관측 데이터에서 컴파일러에 대한 치료 효과를 추정하는 데 도전하는 것.
• 고차원 공변량이 존재하는 상황에서도 일관성, 점근 정규성 및 반모수 효율성 추정을 보장하는 방법을 개발하는 것.
• 정규화된 Riesz 표현을 통한 탈편향을 통합하여 기계학습 기법을 고전적 변수 설정으로 확장하는 것.
• 비편향성과 배제 제약 조건 하에서 국소 평균 치료 효과 및 반사적 결과 분포 추정을 위한 견고한 프레임워크를 제공하는 것.

제안 방법

• 정규화된 Riesz 표현을 사용하여 고전적 변수 모델의 부수적 파라미터를 추정하는 탈편향 기계학습 프레임워크인 DML-RRR를 제안한다.
• 기계학습을 활용해 잠재 결과의 조건부 평균 함수와 치료 확률을 추정하여 최종 추정기의 편향을 감소시킨다.
• 부수적 함수의 추정 오차에 대해 강건성을 확보하기 위해 Neyman-직교 추정 방정식을 적용한다.
• 유한 표본 성능을 향상시키고 점근적 타당성을 유지하기 위해 크로스피팅을 사용한다.
• 이중 강건성 구조를 구현하여 결과 모델나 치료 모델 중 하나만 올바르게 특정되어도 추정기가 일관성이 유지되도록 한다.
• 정규 조건 하에서 추정기의 점근 정규성과 반모수 효율 한계를 도출한다.

실험 결과

연구 질문

• RQ1 탈편향 기계학습은 고차원 설정에서 고전적 변수를 사용하여 컴파일러 파rameter를 효과적으로 추정하는 데 적합한가?
• RQ2 제안된 DML-RRR 방법은 국소 평균 치료 효과 추정에서 점근 정규성과 반모수 효율성을 달성하는가?
• RQ3 DML-RRR는 유한 표본 성능과 강건성 측면에서 기존 최첨단 방법보다 어떻게 비교되는가?
• RQ4 컴파일러 특이 치료 효과를 사용하여 추정한 바에 따르면 401(k) 참가가 순 금융 자산 분포에 어떤 영향을 미치는가?

주요 결과

• DML-RRR 추정기는 정규 조건 하에서 일관성, 점근 정규성, 반모수 효율성을 확보한다.
• 실증 실험 결과 DML-RRR는 편향, 분산, 신뢰구간 커버리지 확률 측면에서 최첨단 대안들보다 뛰어난 성능을 보였다.
• 이 방법은 401(k) 참가가 순 금융 자산에 대한 국소 평균 치료 효과를 성공적으로 추정하였으며, 컴파일러에게 유의미한 긍정적 효과를 드러냈다.
• 고차원 공변량이 존재하는 상황에서도 컴파일러 반사적 결과 분포에 대한 신뢰할 수 있는 추론을 제공한다.
• 정규화된 Riesz 표현을 사용함으로써 고차원 설정에서 부수적 함수의 정확하고 안정된 추정이 가능해졌다.
• 크로스피팅과 Neyman-직교 추정 방정식은 유한 표본 성능을 향상시키고 모형 잘못 지정에 대한 강건성을 향상시켰다.