[论文解读] Ordering-Free Inference from Locally Dependent Data

Kyungchul Song|arXiv (Cornell University)|Apr 2, 2016

Statistical Methods and Inference参考文献 42被引用 7

一句话总结

本文提出随机子样本推断作为一种无排序方法，用于高维、局部依赖数据（如网络爬取或基于网络的数据集）的统计推断。通过聚合从随机抽取的子样本中获得的检验统计量，该方法在无需依赖顺序知识的情况下实现了渐近有效性，模拟结果显示U型统计量优于M型统计量。

ABSTRACT

This paper focuses on a data-rich environment where the data set has a very large cross-sectional dimension, is likely to exhibit local dependence, and yet is hard to determine the dependence ordering. Such a situation arises, for example, when the data set is collected from the Internet, through a method of web crawling. This paper proposes an approach of randomized subsampling inference, where one constructs a test statistic by aggregating many randomized test statistics using random draws of subsamples, and uses for inference the conditional distribution of the test statistic given data. This paper explores two approaches of such inference: one based on an M-type statistic constructed from randomized mean statistics and the other based on a U-type statistic constructed from randomized U-statistics. This paper provides conditions for local dependence, the number of the random draws, and the subsample size, under which randomized subsampling inference is asymptotically valid. From the Monte Carlo simulation studies, this paper finds that the randomized subsampling inference based on the U-type statistics performs better than that based on the M-type statistics.

研究动机与目标

• 解决高截面维度、局部依赖但依赖顺序未知的数据丰富环境中的统计推断问题。
• 开发一种无需建模或识别截面单元之间具体依赖结构的方法。
• 提供一种理论有效且实用的推断程序，适用于未观察到替代模式的网络爬取数据、社交网络或产品市场。
• 扩展现有子样本和自助法，这些方法在局部依赖且缺乏顺序时会失效。
• 建立随机子样本推断渐近有效的条件，重点关注均值检验。

提出的方法

• 通过聚合从独立抽取的子样本中获得的大量随机t检验统计量来构建检验统计量。
• 利用给定数据条件下聚合检验统计量的条件分布来确定临界值，避免依赖渐近正态性。
• 采用两种统计量类型：基于随机化均值统计量的M型，以及基于随机化U统计量的U型。
• 对子样大小、随机抽样次数和局部依赖结构施加条件，以确保渐近有效性。
• 使用对顺序不变的局部依赖度量，使该方法适用于依赖顺序未知或无法识别的场景。
• 运用鞅和矩论证方法，证明检验统计量的条件分布收敛到一个枢轴极限。

实验结果

研究问题

• RQ1 当依赖顺序未知或无法识别时，能否在高维、局部依赖数据中进行统计推断？
• RQ2 在局部依赖且无需依赖结构知识的情况下，随机子样本推断是否仍保持渐近有效性？
• RQ3 在有限样本中，M型和U型随机统计量的性能特征如何比较？
• RQ4 子样大小和随机抽样次数的何种条件可确保推断程序的渐近有效性？
• RQ5 能否利用聚合检验统计量的条件分布来构造有效的临界值，而无需依赖正态近似？

主要发现

• 在局部依赖、子样大小和随机抽样次数的条件下，即使不知道依赖顺序，随机子样本推断方法仍具有渐近有效性。
• 基于随机化U统计量的U型统计量方法在蒙特卡洛模拟中优于M型方法，表现出更好的尺寸和功效特性。
• 给定数据条件下，检验统计量的条件分布以概率一致收敛到一个枢轴分布，从而可有效构造临界值。
• 该方法在标准自助法和子样本法因依赖结构误设而失效的局部依赖场景下依然有效。
• 即使依赖结构复杂或为临时性结构（如网络爬取数据或社交网络），渐近有效性依然成立。
• 理论结果表明，在既定假设下，检验统计量中的估计误差和偏差项会随样本量增大而渐近消失。