[论文解读] The Jackknife Estimation Method

Avery McIntosh|arXiv (Cornell University)|Jun 1, 2016

Advanced Statistical Methods and Models参考文献 7被引用 8

一句话总结

本文提出自助法（Jackknife）估计方法作为一种重抽样技术，用于在统计推断中进行偏差校正和标准误估计。通过系统性地逐次删除样本中的一个观测值并重新计算估计量，Jackknife 提供了对自展法（bootstrap）的线性近似，在特定条件下其方差估计渐近等价于自展法。

ABSTRACT

Statistical resampling methods have become feasible for parametric estimation, hypothesis testing, and model validation now that the computer is a ubiquitous tool for statisticians. This essay focuses on the resampling technique for parametric estimation known as the Jackknife procedure. To outline the usefulness of the method and its place in the general class of statistical resampling techniques, I will quickly delineate two similar resampling methods: the bootstrap and the permutation test. I then outline the Jackknife method and show an example of its use.

研究动机与目标

• 将 Jackknife 方法介绍为参数估计中估计偏差和标准误的自展法的实用替代方法。
• 阐明当理论方差公式难以求解或不可用时，Jackknife 在统计推断中的作用。
• 建立 Jackknife 与自展法之间的理论关系，特别是通过在概率向量单纯形上的线性近似。
• 展示 Jackknife 如何为复杂估计量提供一种计算上可行且渐近有效的自展法替代方案。
• 通过应用基于 Jackknife 的 p 值校正，解决基因集富集分析中基因数量较少的本体类别带来的不稳定性问题。

提出的方法

• Jackknife 通过从大小为 n 的原始样本中逐次删除一个观测值，生成 n 个唯一的样本，形成 n 个 Jackknife 样本。
• 对每个 Jackknife 样本，重新计算估计量 θ̂，得到 n 个重抽样结果 θ̂(i)，作为偏差和标准误估计的基础。
• Jackknife 标准误计算公式为 SE(θ̂)jack = [(n−1)/n × Σ(θ̂(i) − θ̂(⋅))²]¹ᐟ²，其中 θ̂(⋅) 为重抽样结果的均值。
• 该方法使用对概率单纯形上函数 T(P*) 的线性近似 T^LIN，其中 P* 表示经验分布。
• 通过线性近似 T^LIN 的方差，理论证明其与 Jackknife 方差在比例因子上一致，从而实现与自展法的理论等价性。
• 将 Jackknife 应用于基因集富集分析，通过逐次删除一个基因并重新计算 p 值，对基因数量较少的本体类别进行 p 值校正，以纠正虚假显著性。

实验结果

研究问题

• RQ1 对于复杂估计量，Jackknife 方法在估计标准误和偏差方面与自展法相比如何？
• RQ2 Jackknife 在经验概率向量单纯形上如何作为自展法的线性近似？
• RQ3 在多项式抽样模型下，Jackknife 与自展法渐近等价的理论依据是什么？
• RQ4 Jackknife 如何提升基因集富集分析中统计推断的可靠性，特别是针对小样本或不稳定的本体类别？
• RQ5 基于 Jackknife 的 p 值校正对生物数据分析中富集结果的稳定性和可解释性有何影响？

主要发现

• Jackknife 为自展法提供了一种计算上可行的替代方案，尤其当精确自展法计算因重抽样数量呈指数增长而不可行时。
• 在概率单纯形上对函数 T(P*) 的线性近似下，Jackknife 方差估计与自展法方差渐近等价。
• Jackknife 标准误在数学上等价于大样本下的 delta 方法，当解析方差公式不可用时，提供了一种稳健的替代方案。
• Jackknife 方法通过惩罚基因数量较少的类别，有效稳定了基因集富集分析中的 p 值，减少了单基因命中导致的假阳性结果。
• 当 n=3 时，Jackknife 重抽样结果位于一个近似于自展面的超平面上，且线性近似的方差与 Jackknife 方差在 (n−1)/n 因子内一致。
• Jackknife 方法通过确保所有排列均被考虑，降低了置换检验中第一类错误膨胀的风险，尽管对于大 n 通常通过蒙特卡洛采样进行近似。