[论文解读] Practical targeted learning from large data sets by survey sampling

Patrice Bertail, Antoine Chambaz+1 more|arXiv (Cornell University)|Jun 30, 2016

Statistical Methods and Inference参考文献 21被引用 3

一句话总结

本文提出了一种针对大规模数据集的实用目标学习方法，采用不等包含概率的调查抽样以减轻计算负担。通过基于全数据集汇总统计量选择子样本，并应用目标最小损失估计（TMLE），该方法实现了渐近正态估计量和有效的置信区间，且包含概率经优化以最小化方差。

ABSTRACT

We address the practical construction of asymptotic confidence intervals for smooth (i.e., path-wise differentiable), real-valued statistical parameters by targeted learning from independent and identically distributed data in contexts where sample size is so large that it poses computational challenges. We observe some summary measure of all data and select a sub-sample from the complete data set by Poisson rejective sampling with unequal inclusion probabilities based on the summary measures. Targeted learning is carried out from the easier to handle sub-sample. We derive a central limit theorem for the targeted minimum loss estimator (TMLE) which enables the construction of the confidence intervals. The inclusion probabilities can be optimized to reduce the asymptotic variance of the TMLE. We illustrate the procedure with two examples where the parameters of interest are variable importance measures of an exposure (binary or continuous) on an outcome. We also conduct a simulation study and comment on its results. keywords: semiparametric inference; survey sampling; targeted minimum loss estimation (TMLE)

研究动机与目标

• 解决当样本量N极大时目标学习面临的计算挑战。
• 开发一种实用方法，用于在大规模数据场景下构建平滑、路径可微统计参数的渐近置信区间。
• 通过利用调查抽样技术——特别是基于不等包含概率的拒绝抽样——对全数据的汇总统计量进行抽样，实现高效推断。
• 通过影响函数优化包含概率，以最小化目标最小损失估计量（TMLE）的渐近方差。
• 通过理论结果和关于变量重要性度量的模拟研究，证明该方法的有效性与高效性。

提出的方法

• 基于全数据集的汇总度量，采用泊松拒绝抽样并设置不等包含概率，选择一个规模为n(N) << N的可管理子样本。
• 对子样本应用目标最小损失估计（TMLE）以估计感兴趣的参数，确保双重稳健性与效率。
• 推导在抽样设计下TMLE的中心极限定理，从而实现渐近置信区间的构建。
• 利用影响函数优化包含概率，以最小化TMLE估计量的渐近方差。
• 借助Horvitz-Thompson经验测度与经验过程理论，建立在抽样方案下的渐近正态性与一致收敛性。
• 利用函数中心极限定理与熵条件，在较弱的正则性假设下验证估计量的渐近分布。

实验结果

研究问题

• RQ1 当全数据计算不可行时，目标学习能否在极大规模数据集中实际应用？
• RQ2 在大规模场景下，采用不等包含概率的调查抽样如何提升TMLE的效率？
• RQ3 在不等概率拒绝抽样下，TMLE的渐近分布为何？
• RQ4 能否通过优化包含概率来降低大规模数据背景下TMLE的渐近方差？
• RQ5 该方法在估计大规模数据集中暴露-结局关系的变量重要性度量方面表现如何？

主要发现

• 所提方法仅基于全数据集的子样本，即可实现平滑统计参数的有效渐近置信区间。
• 在拒绝抽样设计下，TMLE的中心极限定理成立，确保当N极大时仍能实现有效推断。
• 可利用影响函数优化包含概率，以最小化TMLE估计量的渐近方差。
• 在弱正则性条件下（包括模型空间的熵与矩约束），该方法实现了TMLE的渐近正态性。
• 模拟研究显示，即使全数据集大到无法进行标准计算，该方法仍能保持良好的覆盖率与效率。
• 该方法在估计暴露-结局模型中的变量重要性度量方面尤为有效，展现出良好的稳健性与计算可行性。