[논문 리뷰] Sparsity Double Robust Inference of Average Treatment Effects

Jelena Bradić, Stefan Wager외 1명|arXiv (Cornell University)|2019. 05. 02.

Advanced Causal Inference Techniques참고 문헌 42인용 수 6

한 줄 요약

이 논문은 고차원 설정에서 평균 치료 효과에 대한 희소성 이중로버스트 추정기법을 제안한다. 이는 기존의 더 강한 희소성 조건보다 덜 강한 조건을 요구하며, 특히 결과 회귀 모형 또는 성향스코어 모형 중 하나만 초희소여도 되는 조건에서 점점 더 정확한 신뢰구간을 보장하는 새로운 손실 함수를 활용한다. 이 방법은 이중로버스트성을 유지하면서도 두 모형이 모두 희소해야 한다는 요구 조건 없이 반반세미모델 효율성을 달성한다.

ABSTRACT

Many popular methods for building confidence intervals on causal effects under high-dimensional confounding require strong "ultra-sparsity" assumptions that may be difficult to validate in practice. To alleviate this difficulty, we here study a new method for average treatment effect estimation that yields asymptotically exact confidence intervals assuming that either the conditional response surface or the conditional probability of treatment allows for an ultra-sparse representation (but not necessarily both). This guarantee allows us to provide valid inference for average treatment effect in high dimensions under considerably more generality than available baselines. In addition, we showcase that our results are semi-parametrically efficient.

연구 동기 및 목표

• 기존의 고차원 인과추론 방법이 결과 회귀 모형과 성향스코어 모형 모두 초희소여야 한다는 강한 조건을 요구하는 한계를 해결한다.
• 두 모형 중 하나만 초희소여도 되는 더 약한 조건 하에서 유효한 추론(점점 더 정확한 신뢰구간)을 보장하는 방법을 개발한다.
• 최소한의 가정 하에 고차원 평균 치료 효과 추정에서 반반세미모델 효율성을 달성한다.
• 선형 모형과 정규 분포 가정을 초월하여 비선형 모형으로의 희소성 이중로버스트성 확장을 이룬다.
• 이론적으로 탄탄하고 계산적으로 실현 가능한 추정기법을 제공하여 고차원 설정에서 이중로버스트성과 점점 더 정규분포를 유지한다.

제안 방법

• 고차원 매개변수 공간 내의 희소성을 명시적으로 활용하는 성향스코어 및 결과 회귀 모형의 매개변수 추정을 위한 새로운 손실 함수를 제안한다.
• 점점 더 정규분포를 보장하고 과적합을 방지하기 위해 표본 분할을 활용한 이중단계 추정 절차를 사용한다.
• 지표 함수와 지수 함수를 조합한 손실 함수를 최소화하여 추정기를 정의하며, L1 정규화를 통해 희소성을 강제한다.
• 각 잠재적 결과에 대해 별도의 최적화 문제를 사용하여 추정기를 결과 모형과 치료 모형 양쪽에 적용한다.
• 성향스코어 또는 결과 회귀 매개변수 중 하나만 초희소일 경우에 평균 치료 효과 추정기의 점점 더 정규분포를 증명한다.
• 분산 추정기의 새로운 분해를 통해 이가 확률적으로 진짜 점점 더 정규분포 분산으로 수렴함을 보여 이로 인해 유효한 추론이 가능함을 입증한다.

실험 결과

연구 질문

• RQ1 기존 방법보다 더 약한 희소성 조건을 요구하는 고차원 평균 치료 효과 추정기법을 구축할 수 있는가?
• RQ2 제안된 방법은 결과 회귀 모형 또는 성향스코어 모형 중 하나만 초희소일 경우에도 이중로버스트성을 달성하는가?
• RQ3 선형 모형을 초월하여 정규 분포 가정 없이도 희소성 이중로버스트성을 비선형 모형으로 확장할 수 있는가?
• RQ4 제안된 추정기법은 고차원 설정에서 반반세미모델 효율성을 달성하는가?
• RQ5 고차원 희소성 조건 하에서 평균 치료 효과의 분산 추정기법이 일致적으로 추정될 수 있는가?

주요 결과

• 제안된 추정기법은 결과 회귀 모형 또는 성향스코어 모형 중 하나만 초희소일 경우에 평균 치료 효과에 대해 점점 더 정확한 신뢰구간을 확보하며, 이는 이전의 가정 조건을 상당히 완화한 것이다.
• 이 방법은 반반세미모델 효율성을 확보하여 주어진 모형 하에서 모든 정규 추정기 중에서 최소한의 점점 더 정규분포 분산을 달성한다.
• 이 추정기법은 정규 분포 가정이 없는 비정규 설계와 비선형 모형에서도 유효하게 유지되며, 이는 이전 연구에서 정규 분포를 요구했던 결과를 확장한 것이다.
• 분산 추정기법은 일致적이며 확률적으로 진짜 점점 더 정규분포 분산으로 수렴하므로 유효한 추론이 가능하다.
• 이론적 분석을 통해 추정기법이 희소성 이중로버스트 조건 하에서 $√{n}$-일致성과 점점 더 정규분포를 만족함을 확인하였다.
• 이 방법은 두 모형의 공동 희소성 조건이 필요 없어지므로 고차원 설정에서 표준 보정된 역확률가중치법보다 우수한 성능을 보였다.