[논문 리뷰] Model-assisted inference for treatment effects using regularized calibrated estimation with high-dimensional data

Zhiqiang Tan|arXiv (Cornell University)|2018. 01. 30.

Advanced Causal Inference Techniques참고 문헌 31인용 수 20

한 줄 요약

이 논문은 고차원 관찰 연구에서 평균 치료 효과 추론을 위한 정규화된 校정된 추정 방법을 제안한다. Lasso 페널티를 적용한 모델과 특별히 설계된 손실 함수를 사용하여 双중으로 강건하고 모델 보조적인 신뢰구간을 달성한다. 이 방법은 결과 회귀 모형 또는 성향 스코어 모형 중 하나가 잘못 지정된 경우에도 타당한 추론을 보장하며, 시뮬레이션과 실증 적용에서 표준 정규화된 최대우도 접근보다 뛰어난 성능을 보인다.

ABSTRACT

Consider the problem of estimating average treatment effects when a large number of covariates are used to adjust for possible confounding through outcome regression and propensity score models. The conventional approach of model building and fitting iteratively can be difficult to implement, depending on ad hoc choices of what variables are included. In addition, uncertainty from the iterative process of model selection is complicated and often ignored in subsequent inference about treatment effects. We develop new methods and theory to obtain not only doubly robust point estimators for average treatment effects, which remain consistent if either the propensity score model or the outcome regression model is correctly specified, but also model-assisted confidence intervals, which are valid when the propensity score model is correctly specified but the outcome regression model may be misspecified. With a linear outcome model, the confidence intervals are doubly robust, that is, being also valid when the outcome model is correctly specified but the propensity score model may be misspecified. Our methods involve regularized calibrated estimators with Lasso penalties, but carefully chosen loss functions, for fitting propensity score and outcome regression models. We provide high-dimensional analysis to establish the desired properties of our methods under comparable conditions to previous results, which give valid confidence intervals when both the propensity score and outcome regression are correctly specified. We present a simulation study and an empirical application which confirm the advantages of the proposed methods compared with related methods based on regularized maximum likelihood estimation.

연구 동기 및 목표

• 많은 수의 공변량이 존재할 때 뒷받질을 조정해야 하는 평균 치료 효과를 추정하는 데 도전하는 것.
• 반복적이고 임의적인 변수 선택에 의존하고 모형 선택의 불확실성을 忽略하는 전통적인 모형 구축 접근 방식의 한계를 극복하는 것.
• 결과 회귀 모형 또는 성향 스코어 모형 중 하나가 잘못 지정된 경우에도 타당한 신뢰구간을 제공하는 방법을 개발하여 강건한 추론을 보장하는 것.
• 특히 손실 함수를 신중히 선택한 정규화된 추정을 사용하여 고차원 설정에서 이중 강건 추론을 확장하는 것.

제안 방법

• 성향 스코어 모형을 피팅하기 위해 Lasso 페널티를 적용한 정규화된 校정된 추정자 사용하며, 손실 함수는 특정하게 필요한 渐近적 성질을 확보하기 위해 설계된다.
• 결과 회귀 모형을 위한 정규화된 가중 최대우도 추정자 사용하며, 손실 함수는 이중 강건성과 모델 보조 추론을 유지하기 위해 맞춤형으로 조정된다.
• 결과 모형의 교차검증 동안 정규화된 校정된 추정자로부터 추정된 성향 스코어 계수를 고정하여 안정성과 일관성을 확보한다.
• 결과 회귀와 성향 스코어 예측을 조합한 보정된 역확률가중치(AIPW) 추정자를 적용하여 평균 치료 효과를 추정한다.
• 조정 파rameter를 선택하기 위해 교차검증을 구현하여 고차원 설정에서 편향과 분산 사이의 최적 균형을 확보한다.
• 희박성 가정 하에 이론적 성질을 도출하며, 성향 스코어 모형 또는 결과 회귀 모형 중 하나가 올바르게 지정된 경우에도 신뢰구간이 타당하다는 것을 보여준다.

실험 결과

연구 질문

• RQ1 정규화된 校정된 추정은 많은 공변량이 존재하는 고차원 설정에서 평균 치료 효과 추론을 향상시킬 수 있는가?
• RQ2 결과 회귀 모형 또는 성향 스코어 모형 중 하나가 잘못 지정된 경우에도 제안된 방법이 타당한 신뢰구간을 유지하는가?
• RQ3 편향, 분산, 신뢰구간 커버리지 측면에서 정규화된 校정된 추정자와 표준 정규화된 최대우도 추정 방법 간의 성능 비교는 어떻게 되는가?
• RQ4 희박성 가정 하에 고차원 설정에서 이중 강건 추론을 달성할 수 있는가?

주요 결과

• 제안된 방법은 이중 강건한 점 추정을 달성하며, 성향 스코어 모형 또는 결과 회귀 모형 중 하나가 올바르게 지정된 경우 일관성을 유지한다.
• 성향 스코어 모형이 올바를 경우, 결과 회귀 모형이 잘못 지정된 경우에도, 또는 그 반대의 경우에도, 신뢰구간은 모델 보조적이며 타당하다.
• n=800, p=200 조건의 시뮬레이션에서, 선형 결과 구성 1에서 RCAL.RWL 방법은 90% 신뢰구간에 대해 83.7% 커버리지율을 기록했으며, RML.RML 방법의 79.0%를 초월했다.
• 95% 신뢰구간에 대해서는 RCAL.RWL이 구성 1에서 91.2% 커버리지율을 기록했고, RML.RML은 85.9%였으며, 이는 커버리지 정확도 향상을 시사한다.
• 특히 진정한 뒷받질 요인 구조가 복잡한 설정에서 경쟁 방법 대비 더 낮은 편향과 더 효율적인 분산 추정치를 보였다.
• 실증 결과는 제안된 방법이 모형 오지정 상황에서도 타당한 추론을 유지함을 확인했으며, 특히 결과 모형이 잘못 지정되었지만 성향 스코어 모형이 올바를 경우에 뚜렷한 이점이 있었다.