[论文解读] On the Theoretical Properties of the Network Jackknife

Qiaohui Lin, Robert Lunde+1 more|arXiv (Cornell University)|Apr 19, 2020

Limits and Structures in Graph Theory参考文献 38被引用 4

一句话总结

本文在稀疏图函数模型下，建立了网络自助法——一种删去节点的重抽样方法——在估计网络统计量方差时的理论性质。它证明了一个类似Efron-Stein的不等式，表明在期望下方差估计是保守的，并为一类广义计数泛函建立了相合性，模拟和真实数据实验表明其在有限样本下与子抽样及其他重抽样方法相比表现具有竞争力。

ABSTRACT

We study the properties of a leave-node-out jackknife procedure for network data. Under the sparse graphon model, we prove an Efron-Stein-type inequality, showing that the network jackknife leads to conservative estimates of the variance (in expectation) for any network functional that is invariant to node permutation. For a general class of count functionals, we also establish consistency of the network jackknife. We complement our theoretical analysis with a range of simulated and real-data examples and show that the network jackknife offers competitive performance in cases where other resampling methods are known to be valid. In fact, for several network statistics, we see that the jackknife provides more accurate inferences compared to related methods such as subsampling.

研究动机与目标

• 开发一种理论基础坚实的网络统计重抽样方法，对模型误设具有鲁棒性，且无需完整估计图函数。
• 在稀疏图函数模型下，为置换不变网络泛函建立保守的方差估计。
• 证明网络自助法对广泛类别的计数泛函（如子图计数和凝聚性度量）的一致性。
• 在模拟和真实网络数据中，比较网络自助法与现有方法（如子抽样和自助法）的有限样本性能。
• 展示自助法在大规模网络推断任务中的计算效率和实际可行性。

提出的方法

• 提出一种删去节点的自助法程序，通过平均删去单个节点后估计值的平方偏差来估计网络泛函的方差。
• 应用类似Efron-Stein的不等式，证明对于置换不变泛函，期望的自助法方差估计是真实方差的上界。
• 使用过滤论证和一致可积性，建立自助法方差估计量的渐近正态性和收敛性。
• 推导出一般泛函 $ Z_n $ 的保守方差不等式（命题4），证明 $ \mathrm{Var}(Z_n) \leq E(\widehat{\mathrm{Var}}_{\mathrm{JACK}} Z_n) $，且无需依赖置换不变性。
• 以子抽样为基准进行比较，采用块大小 $ b = 0.05n, 0.1n, 0.2n $，并比较置信区间和计算时间。
• 在稀疏图函数模型下的模拟网络和真实Facebook大学网络上验证该方法，重点关注三角形密度、两星密度和归一化凝聚性。

实验结果

研究问题

• RQ1 在稀疏图函数模型下，网络自助法是否对置换不变网络泛函在期望下产生保守的方差估计？
• RQ2 网络自助法方差估计量是否对包括子图计数在内的广义计数泛函类具有一致性？
• RQ3 在覆盖性和准确性方面，网络自助法的有限样本性能与子抽样和自助法相比如何？
• RQ4 网络自助法是否能在无需潜变量空间估计或大量重抽样开销的情况下，在大规模网络环境中高效实现？
• RQ5 在哪些条件下，自助法在方差估计精度和计算时间方面优于子抽样？

主要发现

• 网络自助法在期望下产生保守的方差估计，满足 $ \mathrm{Var}(Z_n) \leq E(\widehat{\mathrm{Var}}_{\mathrm{JACK}} Z_n) $，这使其可作为稳健的、安全优先的估计器。
• 对于一类广义计数泛函，自助法方差估计量在稀疏图函数模型下具有一致性，其收敛性通过一致可积性和Slutsky定理得以建立。
• 在六个大学Facebook网络的真实数据和模拟数据中，基于自助法的三角形密度、两星密度和归一化凝聚性置信区间，与不同块大小下的子抽样结果高度一致。
• 在计算上，由于子图计数的嵌套结构可实现高效计算，自助法在大网络中通常比使用较大块大小（$ b = 0.2n $）的子抽样更快。
• 在计算效率方面，自助法优于非参数自助法和潜变量位置自助法，且无需准确估计底层图函数。
• 替代的自助法估计量 $ \widehat{\mathrm{Var}}_{\mathrm{JACK}} Z_n = \sum_{i=1}^n (Z_n - \widetilde{Z}_{n,i})^2 $（无需置换不变性）仍满足保守不等式，尽管其精度可能略低。