[논문 리뷰] Selective Machine Learning of the Average Treatment Effect with an Invalid Instrumental Variable

Baoluo Sun, Yifan Cui외 1명|arXiv (Cornell University)|2019. 07. 27.

Advanced Causal Inference Techniques참고 문헌 75인용 수 6

한 줄 요약

이 논문은 제외 제약 조건을 위반하는 비유효한 이중변수(IV)를 사용하여 평균 치료 효과(ATE)를 추정하기 위해 새로운 다중 강건성, 국소적으로 효율적인 추정기와 선택적 머신러닝 접근법을 제안한다. 여러 파라미터 모델과 난이도 높은 학습 기법을 활용하여 오차 항의 모수를 추정함으로써, 개별 모델이 잘못 지정되어도 $√{n}$-일致성과 작은 편향을 보장하여 고차원적 설정에서 측정되지 않은 혼란 변수가 존재할 경우에도 타당한 인과적 추론이 가능하다.

ABSTRACT

Instrumental variable methods have been widely used to identify causal effects in the presence of unmeasured confounding. A key identification condition known as the exclusion restriction states that the instrument cannot have a direct effect on the outcome which is not mediated by the exposure in view. In the health and social sciences, such an assumption is often not credible. To address this concern, we consider identification conditions of the population average treatment effect with an invalid instrumental variable which does not satisfy the exclusion restriction, and derive the efficient influence function targeting the identifying functional under a nonparametric observed data model. We propose a novel multiply robust locally efficient estimator of the average treatment effect that is consistent in the union of multiple parametric nuisance models, as well as a multiply debiased machine learning estimator for which the nuisance parameters are estimated using generic machine learning methods, that effectively exploit various forms of linear or nonlinear structured sparsity in the nuisance parameter space. When one cannot be confident that any of these machine learners is consistent at sufficiently fast rates to ensure $\surd{n}$-consistency for the average treatment effect, we introduce a new criteria for selective machine learning which leverages the multiple robustness property in order to ensure small bias. The proposed methods are illustrated through extensive simulations and a data analysis evaluating the causal effect of 401(k) participation on savings.

연구 동기 및 목표

• 실제로 자주 위반되는 제외 제약 조건으로 인해 인과 추론에서 이중변수(IV) 방법의 핵심적 한계를 해결하기 위해.
• IV가 비유효할 경우(즉, 제외 제약 조건을 위반할 경우) 평균 치료 효과(ATE)에 대한 비모수적 식별 전략을 개발하기 위해.
• 오차 함수에 대한 여러 파라미터 모델의 합집합 조건 하에서도 일관성을 유지하는 다중 강건성, 국소적으로 효율적인 ATE 추정기 구축을 위해.
• 비유효한 IV가 존재하는 설정으로까지 머신러닝 기반 인과 추론을 확장하기 위해, 다중 강건성을 활용하여 편향을 감소시키는 선택적 머신러닝을 도입하기 위해.

제안 방법

• 비유효한 IV가 있는 비모수적 관측 데이터 모델 하에서 ATE에 대한 효율적 영향 함수를 유도하여 반모수적 효율성을 달성한다.
• 여러 파라미터 모델 중 적어도 하나의 오차 함수 모델이 올바르게 지정되어 있으면 일관성을 유지하는 다중 강건성 국소적으로 효율적인 추정기를 제안한다.
• 일반적인 머신러닝 방법을 활용하여 오차 항을 추정하는 다중 보정 없는 머신러닝 추정기를 도입하며, 고차원 설정에서의 구조적 희박성 특성을 활용한다.
• 교차 적합 및 편향 기반 위험 추정을 통해 유도된 경험적 가짜 위험을 최소화함으로써 최적의 오차 모델 조합을 선택하는 선택적 머신러닝 알고리즘을 개발한다.
• 다중 데이터 분할을 사용한 교차 적합을 통해 효율적 영향 함수를 추정하고 네이만 수직성(orthogonality)을 확보함으로써 $√{n}$-일치성을 보장한다.
• 최소 최대 위험 기준과 후보 학습자들에 대한 경험적 위험 최소화를 통해 가장 안정적이고 편향이 적은 오차 모델 구성 조합을 선별한다.

실험 결과

연구 질문

• RQ1 이중변수(IV)가 제외 제약 조건을 위반할 경우 평균 치료 효과(ATE)를 비모수적으로 식별할 수 있는가?
• RQ2 단일 오차 모델이 일관성이 보장되지 않을 경우, 다중 강건성을 어떻게 활용하여 ATE 추정에서 작은 편향을 확보할 수 있는가?
• RQ3 비유효한 IV가 존재하는 상황에서 모델 오차가 있을 경우 ATE 추정에 대해 $√{n}$-일치성을 보장할 수 있는 머신러닝 전략은 무엇인가?
• RQ4 선택적 머신러닝은 어떻게 다수의 오차 모델 사양을 적응적으로 선택하여 ATE 추정의 편향을 최소화할 수 있는가?
• RQ5 고차원적 공변수를 포함한 현실적인 설정에서 제안된 추정기의 유한 표본 성능과 강건성 특성은 어떠한가?

주요 결과

• 제안된 다중 강건성 국소적으로 효율적인 추정기는 오차 함수에 대한 여러 파라미터 모델 중 하나만 정확하게 지정되어 있어도 ATE에 대해 $√{n}$-일치성을 달성한다.
• 선택적 머신러닝 알고리즘이 경험적 가짜 위험을 최소화함으로써 최적의 오차 모델 조합을 성공적으로 식별하여 유한 표본에서 편향을 감소시킨다.
• 고차원적 공변수와 복잡한 의존성 구조 하에서도 타당한 추론을 유지하며, 제외 제약 조건이 위반될 경우 기존의 표준 IV 방법보다 뛰어난 성능을 보인다.
• 시뮬레이션 결과, 제안된 추정기는 모델 오차가 있을 경우 기존의 IV 추정기보다 훨씬 작은 편향과 더 나은 커버리지 성능을 보였다.
• 401(k) 참가 여부가 저축에 미치는 영향에 대한 실제 데이터 분석에서, 이 방법은 이전 문헌과 일치하는 유의미한 인과 효과를 식별하였으며, 동시에 도구 변수의 직접 효과를 고려하였다.
• 최소 최대 추정기의 이론적 위험 경계 분석 결과, 개별 머신러닝 학습자가 충분히 빠른 속도로 일관성이 없더라도 선택 절차가 편향을 효과적으로 통제함을 보였다.