[논문 리뷰] Improving Inference from Simple Instruments through Compliance Estimation

Stephen Coussens, Jann Spiess|arXiv (Cornell University)|2021. 08. 08.

Advanced Causal Inference Techniques인용 수 12

한 줄 요약

이 논문은 관찰치의 추정된 준수도—즉, 기초 공변량 조건 하에서 처리제품에 영향을 받을 조건부 확률—에 따라 관찰치를 가중치를 부여함으로써 인과 효과 추정의 정밀도를 향상시키는 준수도 가중치를 부여한 외부변수(IV) 추정기법을 제안한다. 준수도 가중치를 제1단계 예측 문제의 제약 조건을 만족하는 해로 프레임워킹하고, 준수도를 비모수적 기계학습 방법으로 추정하더라도 타당한 추론이 가능하도록 함으로써, 제1단계 이질성이 존재할 경우 IV 추정치의 분산을 크게 감소시킨다. 이는 종종 추정량의 이동을 초래하는 것보다 더 큰 정밀도 향상을 가져온다.

ABSTRACT

Instrumental variables (IV) regression is widely used to estimate causal treatment effects in settings where receipt of treatment is not fully random, but there exists an instrument that generates exogenous variation in treatment exposure. While IV can recover consistent treatment effect estimates, they are often noisy. Building upon earlier work in biostatistics (Joffe and Brensinger, 2003) and relating to an evolving literature in econometrics (including Abadie et al., 2019; Huntington-Klein, 2020; Borusyak and Hull, 2020), we study how to improve the efficiency of IV estimates by exploiting the predictable variation in the strength of the instrument. In the case where both the treatment and instrument are binary and the instrument is independent of baseline covariates, we study weighting each observation according to its estimated compliance (that is, its conditional probability of being affected by the instrument), which we motivate from a (constrained) solution of the first-stage prediction problem implicit to IV. The resulting estimator can leverage machine learning to estimate compliance as a function of baseline covariates. We derive the large-sample properties of a specific implementation of a weighted IV estimator in the potential outcomes and local average treatment effect (LATE) frameworks, and provide tools for inference that remain valid even when the weights are estimated nonparametrically. With both theoretical results and a simulation study, we demonstrate that compliance weighting meaningfully reduces the variance of IV estimates when first-stage heterogeneity is present, and that this improvement often outweighs any difference between the compliance-weighted and unweighted IV estimands. These results suggest that in a variety of applied settings, the precision of IV estimates can be substantially improved by incorporating compliance estimation.

연구 동기 및 목표

• 단일 이진 기계학습을 사용하는 설정에서 준수도의 이질성이 존재할 경우 IV 추정의 효율성을 향상시키기 위해.
• IV 회귀에서 제약 조건이 있는 제1단계 예측 문제에 대한 자연스러운 해로써 준수도 가중치를 정식화하기 위해.
• 준수도를 기계학습을 통해 비모수적으로 추정할 경우에도 준수도 가중치 IV 추정기의 타당한 추론 절차를 제공하기 위해.
• 이론과 시뮬레이션을 통해 준수도 가중치가 추정량의 이동을 초래하는 것보다 분산을 더 크게 감소시켜 순정밀도 향상을 이끌어내는지 확인하기 위해.

제안 방법

• 각 관찰치를 그 관찰치의 추정 준수도—기초 공변량 조건 하에서 '준수자'일 조건부 확률로 정의된 값—에 따라 IV 추정기에서 재가중치를 부여한다.
• 준수도는 공변량과 기계학습을 기반으로 훈련된 기계학습 모델을 사용해 추정되며, 이는 고차원적 추정에 대해 민감하고도 탄력적인 방법을 제공한다.
• 추정기는 제1단계 예측 문제에 대한 제약 조건을 만족하는 해로 유도되며, 이는 기계학습의 유효성을 유지하면서도 예측 정확도를 향상시킨다.
• 잠재적 결과 및 局소 평균 처리 효과(LATE) 프레임워크 하에서 가중치가 부여된 IV 추정기의 대표적 표본 성질을 수립한다.
• 교차 적합을 사용해 과적합을 줄이고, 준수도 가중치가 비모수적으로 추정되더라도 타당한 추론 도구를 제공한다.
• 현대 기계학습 알고리즘을 사용해 고차원 공변량의 함수로 준수도를 모델링할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 기계학습의 강도가 단위 간에 예측 가능하게 변동할 경우, 준수도 가중치가 IV 추정의 정밀도를 향상시킬 수 있는가?
• RQ2 준수도 가중치 IV 추정기는 渐近적으로 어떻게 행동하는가? LATE 프레임워크 하에서의 대표적 표본 성질은 무엇인가?
• RQ3 준수도 가중치가 인과 숲이나 구간 OLS와 같은 비모수적 방법으로 추정될 경우, 타당한 추론을 유지할 수 있는가?
• RQ4 준수도 가중치로 인해 분산이 감소하는 정도가 추정량 이동으로 인한 잠재적 편향을 초월하는가?
• RQ5 이질적 오차나 처리 효과 이질성이 존재하는 다양한 조건에서 유한 표본에서 이 방법의 성능은 어떠한가?

주요 결과

• DGP 3 및 DGP 4에서 제1단계 이질성이 존재하는 시뮬레이션 설정에서 준수도 가중치는 IV 추정치의 분산을 최대 40%까지 감소시킨다.
• 준수도 가중치가 정직한 인과 숲이나 분할 OLS로 추정되더라도, 모든 DGP 구성에서 가중치 IV 추정기의 신뢰구간 커버리지가 명목 수준(예: 약 95%)에 근접해 있다.
• DGP 4(이종분산 오차)에서는 ση = 2.0일 때도 가중치 추정기의 커버리지가 95%를 유지하며, X-HCF는 95.6% 커버리지 달성.
• 오라클 가중치 추정기(OW)는 모든 DGP 구성에서 최저의 루트 평균 제곱 오차(RMSE)를 기록하여 완벽한 준수도 추정의 잠재적 이점을 입증한다.
• 비가중치 IV 추정기는 이종분산성과 처리 효과 이질성이 존재할 경우, 준수도 가중치 버전보다 더 높은 분산을 보인다.
• 준수도가 비모수적으로 추정되더라도 타당한 추론이 유지됨을 입증하기 위해 교차 적합 및 비교차 적합 구현에서의 커버리지가 안정함을 확인했다.