[论文解读] Estimation based on nearest neighbor matching: from density ratio to average treatment effect

Zhexiao Lin, Peng Ding+1 more|arXiv (Cornell University)|Dec 27, 2021

Statistical Methods and Inference被引用 4

一句话总结

本文将最近邻（NN）匹配重新解释为当邻居数 M 随样本量发散时的密度比一致估计量，从而在平均处理效应（ATE）估计中实现半参数效率。它证明了当 M 发散时，NN 匹配可实现利普希茨密度估计的极小极大最优速率，并提供了一种双重稳健、高效的 ATE 估计量，使其成为双机器学习方法的先驱。

ABSTRACT

Nearest neighbor (NN) matching as a tool to align data sampled from different groups is both conceptually natural and practically well-used. In a landmark paper, Abadie and Imbens (2006) provided the first large-sample analysis of NN matching under, however, a crucial assumption that the number of NNs, $M$, is fixed. This manuscript reveals something new out of their study and shows that, once allowing $M$ to diverge with the sample size, an intrinsic statistic in their analysis actually constitutes a consistent estimator of the density ratio. Furthermore, through selecting a suitable $M$, this statistic can attain the minimax lower bound of estimation over a Lipschitz density function class. Consequently, with a diverging $M$, the NN matching provably yields a doubly robust estimator of the average treatment effect and is semiparametrically efficient if the density functions are sufficiently smooth and the outcome model is appropriately specified. It can thus be viewed as a precursor of double machine learning estimators.

研究动机与目标

• 在密度比估计的背景下重新表述最近邻匹配。
• 解决固定 M 的 NN 匹配在 ATE 估计中长期存在的低效性问题。
• 证明当 M 发散时，可实现一致且速率最优的密度比估计。
• 证明 NN 匹配可产生一种双重稳健、半参数高效的 ATE 估计量。
• 将 NN 匹配定位为双机器学习估计量的基础方法。

提出的方法

• 将 Abadie 和 Imbens（2006）提出的内在统计量 $K_M(x)$ 重新解释为两样本设置下的密度比估计量。
• 使用 $k$-d 树实现最近邻计算的次二次、近线性时间复杂度。
• 证明基于 NN 的密度比估计量为一步估计，计算高效，并在利普希茨光滑条件下达到最优速率。
• 推导渐近方差界，并证明当 $M \to \infty$ 时，该估计量以概率收敛于真实密度比。
• 通过双重稳健性原理，将密度比估计量与偏差校正的 ATE 估计联系起来。
• 证明在适当选择 $M$ 时，所得 ATE 估计量可达到半参数效率下界。

实验结果

研究问题

• RQ1 当 $M \to \infty$ 时，发散的 $M$ 是否可一致估计两样本之间的密度比？
• RQ2 基于 NN 的密度比估计量是否在利普希茨密度函数类上达到极小极大最优速率？
• RQ3 M 的选择如何影响 NN 匹配中 ATE 估计的效率与偏差？
• RQ4 NN 匹配能否被重新解释为一种双重稳健、半参数高效的 ATE 估计量？
• RQ5 NN 匹配与双机器学习估计量之间是否存在理论联系？

主要发现

• Abadie 和 Imbens（2006）提出的统计量 $K_M(x)$ 在 $M \to \infty$ 时可一致估计密度比，尽管其此前仅用于 ATE 估计。
• 基于 NN 的密度比估计量在信息论上是最优的，可在利普希茨密度函数类上达到极小极大下界。
• 该估计量计算高效，通过 $k$-d 树实现近线性时间复杂度，且避免了对单个密度的估计。
• 当 $M$ 发散时，若密度光滑且结果模型正确设定，ATE 估计量可实现半参数效率。
• 该方法具有双重稳健性：只要倾向得分或结果模型之一正确设定，估计量即一致。
• 分析表明，Abadie 和 Imbens（2006）中固定的 $M$ 假设会导致低效性，而通过允许 $M \to \infty$ 可解决此问题。