[논문 리뷰] Estimation based on nearest neighbor matching: from density ratio to average treatment effect

Zhexiao Lin, Peng Ding외 1명|arXiv (Cornell University)|2021. 12. 27.

Statistical Methods and Inference인용 수 4

한 줄 요약

이 논문은 표본 크기가 증가함에 따라 이웃 수 M이 증가할 때, 최근접 이웃(NN) 매칭을 밀도 비율 추정기로 재해석하여 평균 치료 효과(ATE) 추정에서 준모수적 효율성을 달성한다. 이는 리프시츠 조건 하에서 밀도 추정의 최소최대 최적 속도를 달성함을 보여주며, 이중로버스트하고 효율적인 ATE 추정기를 제공함으로써 더 이상의 이중 머신러닝 방법의 기초가 된다.

ABSTRACT

Nearest neighbor (NN) matching as a tool to align data sampled from different groups is both conceptually natural and practically well-used. In a landmark paper, Abadie and Imbens (2006) provided the first large-sample analysis of NN matching under, however, a crucial assumption that the number of NNs, $M$, is fixed. This manuscript reveals something new out of their study and shows that, once allowing $M$ to diverge with the sample size, an intrinsic statistic in their analysis actually constitutes a consistent estimator of the density ratio. Furthermore, through selecting a suitable $M$, this statistic can attain the minimax lower bound of estimation over a Lipschitz density function class. Consequently, with a diverging $M$, the NN matching provably yields a doubly robust estimator of the average treatment effect and is semiparametrically efficient if the density functions are sufficiently smooth and the outcome model is appropriately specified. It can thus be viewed as a precursor of double machine learning estimators.

연구 동기 및 목표

• 최근접 이웃 매칭을 밀도 비율 추정의 맥락에서 재표현하기.
• 고정된 M을 사용하는 NN 매칭이 ATE 추정에서 오랫동안 지속된 비효율성 문제를 해결하기.
• 증가하는 M이 리프시츠 조건 하에서 일致적이고 비율 최적의 밀도 비율 추정을 가능하게 함을 입증하기.
• NN 매칭이 이중로버스트하고 준모수적으로 효율적인 ATE 추정기임을 보여주기.
• NN 매칭이 이중 머신러닝 추정기의 기초 방법으로서의 위치를 확립하기.

제안 방법

• Abadie와 Imbens(2006)의 내재 통계량 $K_M(x)$를 이중 표본 설정에서의 밀도 비율 추정기로 재해석한다.
• NN 계산의 비제곱, 거의 선형 시간 복잡도를 달성하기 위해 $k$-d 트리를 사용한다.
• 리프시츠 스무쓰함 조건 하에서 NN 기반 밀도 비율 추정기가 일단에 가까운 계산 효율성과 비율 최적성을 확보함을 입증한다.
• 점근적 분산 경계를 유도하고 $M \to \infty$ 일 때 참 밀도 비율로의 확률 수렴을 보여준다.
• 이중로버스트 원리에 따라 밀도 비율 추정기를 편향 보정된 ATE 추정과 연결한다.
• 적절한 $M$을 선택할 경우, 결과적으로 얻어진 ATE 추정기가 준모수적 효율 경계를 달성함을 보여준다.

실험 결과

연구 질문

• RQ1 증가하는 $M$을 가진 최근접 이웃 매칭이 두 표본 간의 밀도 비율을 일관되게 추정할 수 있는가?
• RQ2 NN 기반 밀도 비율 추정기는 리프시츠 밀도 함수 위에서 최소최대 최적 속도를 달성하는가?
• RQ3 $M$의 선택이 NN 매칭에서 ATE 추정의 효율성과 편향에 어떤 영향을 미치는가?
• RQ4 NN 매칭이 이중로버스트하고 준모수적으로 효율적인 ATE 추정기로 재해석될 수 있는가?
• RQ5 NN 매칭과 이중 머신러닝 추정기 사이에 이론적 연결 고리가 존재하는가?

주요 결과

• Abadie와 Imbens(2006)의 통계량 $K_M(x)$는 $M \to \infty$ 일 때 밀도 비율을 일관되게 추정한다. 이는 이전까지 ATE 추정에만 사용된 바 있으나, 이제는 밀도 비율 추정에도 적용 가능하다.
• NN 기반 밀도 비율 추정기는 정보이론적으로 최적이며, 리프시츠 밀도 함수 위에서 최소최대 하한선을 달성한다.
• 이 추정기는 $k$-d 트리를 통해 거의 선형 시간 복잡도를 가지며, 개별 밀도 추정을 피함으로써 계산 효율성이 뛰어나다.
• 증가하는 $M$ 조건 하에서, 매끄러운 밀도와 올바르게 지정된 결과 모델 조건 하에서 ATE 추정기는 준모수적으로 효율적이다.
• 이 방법은 이중로버스트성을 확보한다. 즉, 의사결정 확률 모델 또는 결과 모델 중 하나만 올바르게 지정되어 있으면 일관성이 유지된다.
• 분석 결과, Abadie와 Imbens(2006)에서 고정된 $M$의 가정은 비효율성을 초래하며, 이는 $M \to \infty$ 허용을 통해 해결됨을 보여준다.