[논문 리뷰] Robust Inference Using Inverse Probability Weighting

Xinwei Ma, Jingshen Wang|arXiv (Cornell University)|2018. 10. 26.

Statistical Methods and Inference참고 문헌 22인용 수 7

한 줄 요약

이 논문은 확률 가중치가 작아지거나 잘라내기 임계값이 설정될 때 발생하는 비정규 분포를 고려한, 역확률가중치(IPW) 추정기의 강건한 추론 절차를 제안한다. 부분표본 추출과 국소 다항식 편향 보정, 데이터 기반의 잘라내기 임계값 선택을 조합함으로써, 표미분의 행동과 잘라내기 선택에 관계없이 유효한 추론을 보장하며, 전통적인 정규 근사가 실패할 경우에도 성립한다.

ABSTRACT

Inverse Probability Weighting (IPW) is widely used in empirical work in economics and other disciplines. As Gaussian approximations perform poorly in the presence of "small denominators," trimming is routinely employed as a regularization strategy. However, ad hoc trimming of the observations renders usual inference procedures invalid for the target estimand, even in large samples. In this paper, we first show that the IPW estimator can have different (Gaussian or non-Gaussian) asymptotic distributions, depending on how "close to zero" the probability weights are and on how large the trimming threshold is. As a remedy, we propose an inference procedure that is robust not only to small probability weights entering the IPW estimator but also to a wide range of trimming threshold choices, by adapting to these different asymptotic distributions. This robustness is achieved by employing resampling techniques and by correcting a non-negligible trimming bias. We also propose an easy-to-implement method for choosing the trimming threshold by minimizing an empirical analogue of the asymptotic mean squared error. In addition, we show that our inference procedure remains valid with the use of a data-driven trimming threshold. We illustrate our method by revisiting a dataset from the National Supported Work program.

연구 동기 및 목표

• 확률 가중치가 0에 가까워질 때 전통적인 정규 근사가 실패하는 IPW 추론의 문제를 해결한다.
• 임의의 잘라내기로 인해 발생하는 비유효성 문제를 해결한다. 이는 비노출된 편향을 유도하고 점차적 분포를 변화시킨다.
• 중심 꼬리 행동과 다양한 잘라내기 임계값에 적응하는 이원적 강건한 추론 방법을 개발한다.
• 실험적 점차적 평균제곱오차의 실증적 유사치를 최소화하는 데이터 기반의 잘라내기 임계값 선택 규칙을 제안한다.
• 잘라내기 임계값이 데이터 기반 기준에 따라 내생적으로 선택되더라도 추론의 유효성을 보장한다.

제안 방법

• 다양한 꼬리 행동과 잘라내기 임계값에 따라 IPW 추정기의 알려지지 않은 점차적 분포에 적응하는 임계값을 부분표본 추출을 통해 구성한다.
• 확률 가중치가 임계값 이하일 확률에 비례하는 비노출된 편향을 보정하기 위해 새로운 국소 다항식 기반의 편향 보정을 구현한다.
• 점차적 평균제곱오차의 실증적 유사치를 최소화하는 방식으로 데이터 기반의 잘라내기 임계값 선택 규칙을 도입한다.
• 확률 가중치 $ \hat{e}(X_i) < b_n $ 인 관측치를 제거함으로써, 작은 가중치를 정규화하는 방식으로 IPW 추정기를 정의한다.
• 잘라낸 IPW 추정기의 점차적 분포를 유도하며, 이 분포가 비정규일 수 있고, 가중치가 0 근처에서 무거운 꼬리일 경우 $ \sqrt{n} $ 보다 느린 수렴 속도를 보일 수 있음을 보여준다.
• 재표본 추출과 편향 보정을 조합하여, 가중치 분포와 잘라내기 수준의 다양한 구성 조건에서도 유효한 강건한 신뢰구간을 구성한다.

실험 결과

연구 질문

• RQ1 확률 가중치가 0에 가까워지고 잘라내기가 적용될 경우 IPW 추정기의 점차적 분포는 어떻게 변화하는가?
• RQ2 잘라내기가 IPW 추정기의 점차적 편향과 수렴 속도에 미치는 영향은 무엇인가?
• RQ3 다양한 확률 점수의 꼬리 행동과 다양한 잘라내기 임계값 조건에서도 유효한 통합된 추론 절차를 개발할 수 있는가?
• RQ4 점차적 평균제곱오차를 최소화하면서도 추론 유효성을 유지하는 방식으로 잘라내기 임계값을 어떻게 선택할 수 있는가?
• RQ5 무거운 꼬리 가중치를 가진 유한 표본에서 제안된 방법이 전통적인 정규 기반 추론보다 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• 확률 가중치가 0 근처에서 무거운 꼬리를 보일 경우 IPW 추정기의 점차적 분포는 비정규일 수 있으며, $ \sqrt{n} $ 보다 느린 수렴 속도를 보일 수 있다.
• 잘라내기는 임계값 이하의 가중치 확률에 비례하는 비노출된 점차적 편향을 유도하며, 이 편향은 큰 표본에서도 사라지지 않는다.
• 점차적 분포는 꼬리 지수 $ \gamma_0 $ 와 형태 파라미터 $ \alpha_+ $, $ \alpha_- $ 의 세 가지 파라미터에 의존하며, 이는 비대칭적이고 비정규적인 표본 분포를 초래할 수 있다.
• 부분표본 추출과 편향 보정을 조합한 제안된 추론 절차는, 기초 점차적 분포나 잘라내기 임계값 선택에 관계없이 유효한 강건한 신뢰구간을 생성한다.
• 실험적 점차적 평균제곱오차를 최소화하는 방식으로 데이터 기반의 잘라내기 임계값 선택 규칙은 안정적이고 효율적인 추론을 이끌어내며, 실증 적용에서 오직 다섯 개의 관측치만 잘라내었다.
• 국립지속지원사업 데이터셋에서 강건한 신뢰구간은 비대칭적이며, 기존의 정규 기반 구간보다 더 신뢰할 수 있었으며, 후자 역시 너무 좁고 잘라내기 선택에 민감하게 반응하였다.