[논문 리뷰] Honest data-adaptive inference for the average treatment effect under model misspecification using penalised bias-reduced double-robust estimation

Vahe Avagyan, Stijn Vansteelandt|arXiv (Cornell University)|2017. 08. 12.

Advanced Causal Inference Techniques참고 문헌 15인용 수 17

한 줄 요약

이 논문은 모형 오특정 상황에서도 균일한 추론의 타당성을 유지하는 평균 치료 효과에 대한 페널라이제이션된 편향 감소 이중로버스트 추정량을 제안한다. 정규화를 편향 감소 추정에 통합함으로써, 적어도 한쪽의 성향 스코어 또는 결과 회귀 모형이 올바르게 특정된 경우에만 점근적으로 정규분포를 따르고 타당한 신뢰구간을 보장한다. 이는 고차원적 또는 오특정된 설정에서 기존의 이중로버스트 방법의 한계를 극복한다.

ABSTRACT

The presence of confounding by high-dimensional variables complicates estimation of the average effect of a point treatment. On the one hand, it necessitates the use of variable selection strategies or more general data-adaptive high-dimensional statistical methods. On the other hand, the use of such techniques tends to result in biased estimators with a non-standard asymptotic behaviour. Double-robust estimators are vital for offering a resolution because they possess a so-called small bias property (Newey et al., 2004). This means that their bias vanishes faster than the bias in the nuisance parameter estimators when the relevant smoothing parameter goes to zero, making their performance less sensitive to smoothing (Chernozhukov et al., 2016). This property has been exploited to achieve valid (uniform) inference of the average causal effect when data-adaptive estimators of the propensity score and conditional outcome mean both converge to their respective truths at sufficiently fast rate (e.g., van der Laan, 2014; Farrell, 2015; Belloni et al., 2016). In this article, we extend this work in order to retain valid (uniform) inference when one of these estimators does not converge to the truth, regardless of which. This is done by generalising prior work for low-dimensional settings by Vermeulen and Vansteelandt (2015) to incorporate regularisation. The proposed penalised bias-reduced double-robust estimation strategy exhibits promising performance in extensive simulation studies and a data analysis, relative to competing proposals.

연구 동기 및 목표

• 고차원적 공변량으로 인해 부수적 모형(성향 스코어 및 결과 회귀 모형)이 모두 오특정된 경우 평균 치료 효과에 대한 타당한 추론을 해결하는 데 목적이 있다.
• 정규화 기법을 통합하여 이중로버스트 추정을 확장함으로써, 오특정 상황에서 편향을 안정화하고 유한표본 성능을 향상시키는 데 목적이 있다.
• 데이터 적응형 부수적 매개변수 추정량이 편향되거나 정규분포를 따르지 않을 경우에도 ATE 추정량에 대해 균일하게 타당한 신뢰구간을 보장하는 방법을 개발하는 데 목적이 있다.
• 기존의 편향 감소 이중로버스트 추정의 일반화를 통해 페널라이제이션 추정을 포함함으로써, 모형 오특정과 정규화 효과에 대한 강건성을 확보하는 데 목적이 있다.
• 모의 실험과 실증 데이터 분석을 통해 제안된 추정량의 고차원 설정에서의 성능을 평가하고, 기존 방법과 비교하는 데 목적이 있다.

제안 방법

• 이 방법은 Fu(1998)의 영향을 받은 페널라이제이션된 추정방정식 프레임워크를 사용하며, ℓ1-페널라이제이션(예: 라소)을 활용해 성향 스코어 및 결과 회귀 모형의 부수적 매개변수를 추정한다.
• 이중로버스트 추정량의 1차 편향을 타겟으로 하는 편향 감소 단계를 도입하여, 추정방정식을 수정함으로써 편향을 최소화하면서 관련 없는 계수를 수축시킨다.
• 추정량의 점근적 분포는 약한 정규성 조건 하에서도 여전히 정규분포를 따르며, 균일하게 타당한 성격을 유지한다. 이는 두 작업 모형이 모두 오특정된 경우에도 성립한다.
• 이 접근법은 적어도 두 부수적 모형 중 하나가 정확히 특정된 한, 추정량이 일致하고 점근적으로 정규분포를 따르며, 이중로버스트 성질을 활용한다.
• 이 방법은 이중 단계 추정 절차를 포함한다: 첫째, 페널라이제이션된 우도 또는 M-추정을 사용한 부수적 매개변수의 정규화 추정; 둘째, 이러한 추정치를 사용해 편향 보정된 이중로버스트 추정량을 구성한다.
• 이론적 보장은 펜터리스 파라미터의 곱과 부수적 추정량의 수렴 속도의 곱이 0으로 수렴하는 조건 하에 유도되며, 이는 월드 신뢰구간의 균일한 타당성을 보장한다.

실험 결과

연구 질문

• RQ1 고차원적 공변량으로 인해 성향 스코어 및 결과 회귀 모형이 모두 오특정된 경우에도 평균 치료 효과에 대한 이중로버스트 추론이 균일하게 타당한가?
• RQ2 정규화 기법은 어떻게 편향 감소 이중로버스트 추정에 통합되어 편향을 안정화하고 유한표본 성능을 향상시킬 수 있는가?
• RQ3 제안된 페널라이제이션된 편향 감소 추정량은 모형 오특정 상황에서도 점근적으로 정규분포를 따르고 타당한 신뢰구간을 유지하는가? 특히 부수적 매개변수 추정량이 편향되거나 정규분포를 따르지 않을 경우에도 마찬가지인가?
• RQ4 이 방법은 고차원 설정에서 정규화 펜터리스의 선택과 모형 사양에 대해 얼마나 민감한가?
• RQ5 적어도 한 모형이 근사적으로 올바른 경우, 두 작업 모형이 모두 잘못되었을 때도 추정량이 균일하게 타당한가?

주요 결과

• 제안된 페널라이제이션된 편향 감소 이중로버스트 추정량은 성향 스코어 및 결과 회귀 모형이 모두 오특정된 경우에도 평균 치료 효과에 대해 균일하게 타당한 추론을 달성한다.
• 표준 이중로버스트 방법보다 더 약한 조건 하에서도 추정량은 점근적으로 정규분포를 따르며, 월드 신뢰구간을 쉽게 계산할 수 있다.
• 모의 실험 결과, 제안된 방법은 특히 모형 오특정 상황에서 커버리지 확률과 평균제곱오차 측면에서 경쟁 추정량을 능가한다.
• 실증 분석 결과, 추정량의 안정성이 확인되었으며, 공변량 수가 증가함에 따라 표준오차가 잘 통제된 상태를 유지한다.
• 이 방법은 정규화 펜터리스의 선택에 강건하며, 두 작업 모형의 경미한 오특정에 대해 제한된 민감성을 보인다.
• 이론적 결과는 편향 항이 펜터리스 파라미터의 곱과 부수적 추정량의 수렴 속도의 곱이 0으로 수렴할 경우에만 0으로 수렴함을 보여주며, 이는 균일한 타당성을 가능하게 한다.