[논문 리뷰] Debiased Inverse Propensity Score Weighting for Estimation of Average Treatment Effects with High-Dimensional Confounders

Yuhao Wang, Rajen D. Shah|arXiv (Cornell University)|2020. 11. 17.

Advanced Causal Inference Techniques참고 문헌 27인용 수 5

한 줄 요약

이 논문은 고차원 관찰 연구에서 처리 효과의 평균을 추정하기 위한 Debiased Inverse Propensity Weighting (DIPW)를 제안한다. 이는 처리 확률이 희박한 로지스틱 모형을 따르지만, 결과 회귀 함수는 임의로 복잡할 수 있다. 이 방법은 온건한 조건 하에 $√n$-일致성과 반모수 효율성을 달성하여, 결과 모형이 잘못 지정되거나 비모수일 경우에도 신뢰구간을 통한 타당한 추론을 가능하게 한다.

ABSTRACT

We consider estimation of average treatment effects given observational data with high-dimensional pretreatment variables. Existing methods for this problem typically assume some form of sparsity for the regression functions. In this work, we introduce a debiased inverse propensity score weighting (DIPW) scheme for average treatment effect estimation that delivers $\sqrt{n}$-consistent estimates when the propensity score follows a sparse logistic regression model; the outcome regression functions are permitted to be arbitrarily complex. We further demonstrate how confidence intervals centred on our estimates may be constructed. Our theoretical results quantify the price to pay for permitting the regression functions to be unestimable, which shows up as an inflation of the variance of the estimator compared to the semiparametric efficient variance by a constant factor, under mild conditions. We also show that when outcome regressions can be estimated faster than a slow $1/\sqrt{ \log n}$ rate, our estimator achieves semiparametric efficiency. As our results accommodate arbitrary outcome regression functions, averages of transformed responses under each treatment may also be estimated at the $\sqrt{n}$ rate. Thus, for example, the variances of the potential outcomes may be estimated. We discuss extensions to estimating linear projections of the heterogeneous treatment effect function and explain how propensity score models with more general link functions may be handled within our framework. An R package exttt{dipw} implementing our methodology is available on CRAN.

연구 동기 및 목표

• 고차원 관찰 연구에서 결과 회귀 함수가 복잡하거나 잘못 지정된 경우 평균 처리 효과를 추정하는 데 도전하는 문제를 해결하기 위해.
• 결과 회귀 함수의 희박성 조건 없이 $√n$-일치성을 유지하는 방법을 개발하기 위해.
• 결과 회귀에 대한 최소한의 모형 가정 하에 처리 효과에 대한 타당한 신뢰구간을 구축하기 위해.
• 잠재적 결과의 기능, 예를 들어 이질적 처리 효과의 선형 투영이나 분산과 같은 기능을 추정하는 프레임워크를 확장하기 위해.
• 결과 회귀 함수가 $1/\sqrt{\log n}$ 보다 더 빠른 속도로 추정될 수 있을 때 DIPW가 반모수 효율성을 달성하는지 보여주기 위해

제안 방법

• 처리 확률 모형 기반 이중로버스트 보정을 사용하여 역처리 확률 가중치의 편향을 보정하는 Debiased Inverse Propensity Score Weighting (DIPW) 기법을 제안한다.
• 처리 확률 $\pi(x) = \mathbb{P}(T=1|X=x)$ 를 위한 희박한 고차원 로지스틱 회귀 모형을 사용하며, $s_\pi = o(\sqrt{n}/\log p)$ 를 만족한다.
• 결과 회귀 함수 $\mathbb{E}[Y|X=x]$ 를 위한 비모수적 또는 융통성 있는 추정기 $\tilde{\mu}(x)$ 를 사용하며, Lasso, 랜덤 포레스트 또는 기타 방법을 통해 추정할 수 있다.
• 처리 확률 추정기의 영향 함수에서 유도된 보정 항을 적용하여 가중치 추정기의 편향을 제거한다.
• 온건한 정규성 조건 하에 추정기의 점근적 정규성을 활용하여 DIPW 추정기 중심의 신뢰구간을 구성한다.
• 잠재적 결과의 기능, 예를 들어 임의의 가측 함수 $h$ 에 대해 $\mathbb{E}[h(Y(t))|X=x]$ (분산 및 분위수 포함) 를 추정하는 데 프레임워크를 확장한다.

실험 결과

연구 질문

• RQ1 결과 회귀 함수가 임의로 복잡한 상황에서, 오직 처리 확률 모형이 희박하다는 조건만을 가정할 때 $\sqrt{n}$-일치 추정이 가능할 수 있는가?
• RQ2 DIPW 추정기의 점근적 분산은 무엇이며, 반모수 효율 경계와 어떻게 비교되는가?
• RQ3 DIPW 추정기가 반모수 효율성을 달성하는 조건은 무엇인가?
• RQ4 결과 모형이 잘못 지정되거나 추정하기 어려운 경우, DIPW는 AIPW 및 TMLE에 비해 어떻게 성능을 발휘하는가?
• RQ5 DIPW 프레임워크는 평균을 초월하여 분산이나 분위수와 같은 잠재적 결과의 기능을 추정하는 데 확장 가능한가?

주요 결과

• 처리 확률이 희박한 로지스틱 모형을 따를 경우, 결과 회귀 함수가 임의로 복잡하더라도 DIPW 추정기는 $\sqrt{n}$-일치성을 달성한다.
• 온건한 정규성 조건 하에, DIPW 추정기의 점근적 분산은 반모수 효율 경계보다 일정한 요인만큼 증가한다.
• 결과 회귀 함수가 $1/\sqrt{\log n}$ 보다 더 빠른 속도로 추정될 수 있을 경우, DIPW 추정기는 반모수 효율성을 달성한다.
• 실증 결과에 따르면, DIPW는 밀도가 높거나 잘못 지정된 결과 모형이 존재하는 설정에서 AIPW 및 TMLE를 능가한다. 특히 오버랩이 열악한 경우에 두드러진 성능을 보인다.
• 복잡한 결과 함수를 가진 도전적인 고차원 설정에서, 랜덤 포레스트 기반 DIPW 변형은 Lasso 기반 DIPW와 비교해 유사하거나 더 우수한 성능을 보인다.
• 이 방법은 분산 및 잠재적 결과의 기타 기능, 예를 들어 $\mathrm{Var}(Y(1))$ 를 $\sqrt{n}$ 속도로 추정할 수 있다.