[论文解读] Confidence sequences for sampling without replacement

Ian Waudby-Smith, Aaditya Ramdas|arXiv (Cornell University)|Jun 8, 2020

Machine Learning and Algorithms参考文献 21被引用 9

一句话总结

本文提出了一种用于从有限总体中无放回抽样的置信序列（CS），基于一种新颖的贝叶斯到频率学派的框架，以先验后验比率为鞅。该方法推导出时间一致的霍夫丁型与经验伯恩斯坦型置信序列，这些序列随时间缩小，并以高概率统一覆盖真实参数，显著优于先前的界限，明确量化了无放回抽样的优势。

ABSTRACT

Many practical tasks involve sampling sequentially without replacement (WoR) from a finite population of size $N$, in an attempt to estimate some parameter $θ^\star$. Accurately quantifying uncertainty throughout this process is a nontrivial task, but is necessary because it often determines when we stop collecting samples and confidently report a result. We present a suite of tools for designing confidence sequences (CS) for $θ^\star$. A CS is a sequence of confidence sets $(C_n)_{n=1}^N$, that shrink in size, and all contain $θ^\star$ simultaneously with high probability. We present a generic approach to constructing a frequentist CS using Bayesian tools, based on the fact that the ratio of a prior to the posterior at the ground truth is a martingale. We then present Hoeffding- and empirical-Bernstein-type time-uniform CSs and fixed-time confidence intervals for sampling WoR, which improve on previous bounds in the literature and explicitly quantify the benefit of WoR sampling.

研究动机与目标

• 开发在无放回抽样过程中保持任意停止时间下一致有效性的置信序列（CS）。
• 解决在数据收集过程中反复检查结果时保持有效不确定性量化的问题，避免p-hacking和过度自信。
• 量化无放回抽样相比有放回抽样的统计优势，特别是在置信区间更紧方面。
• 为有限总体中的分类数据和有界连续数据提供计算高效、闭式表达的置信序列。
• 统一并扩展现有不等式（霍夫丁、经验伯恩斯坦）在无放回抽样中的应用，改进文献中先前的界限。

提出的方法

• 使用真实参数值处的先验与后验分布之比作为鞅，通过贝叶斯工具实现频率学派的置信序列。
• 通过利用共轭先验并计算使先验到后验比率低于阈值的参数集合，推导出分类数据的先验后验比率（PPR）CS。
• 基于集中不等式构造基于超鞅的、适用于有界实值观测的时间一致霍夫丁型与经验伯恩斯坦型CS。
• 将超鞅理论应用于无放回抽样模型，其中抽样机制诱导出可预测的依赖结构。
• 以闭式形式优化霍夫丁与经验伯恩斯坦界限的调参参数（如λ），实现常数时间更新。
• 提供计算优化，包括根查找与并行化，以在最坏情况下O(N²)复杂度下使PPR CS具有可计算性。

实验结果

研究问题

• RQ1 我们能否在从有限总体中无放回抽样时，构造出在任意停止时间下仍保持一致有效性的置信序列？
• RQ2 我们如何利用贝叶斯工具在顺序无放回抽样框架中推导出频率学派的置信序列？
• RQ3 与有放回抽样相比，无放回抽样在置信区间宽度上的改进程度如何，以及如何量化这一改进？
• RQ4 时间一致的霍夫丁型与经验伯恩斯坦型界限能否被适配到无放回设置中，并获得比现有方法更紧的界限？
• RQ5 在不同数据类型（如二值与均匀连续数据）下，霍夫丁、经验伯恩斯坦或先验后验比率方法中哪一种置信序列表现最佳？

主要发现

• 所提出的置信序列在所有停止时间下均以高概率（1−α）统一覆盖真实参数，满足时间一致有效性的关键要求。
• 在许多场景中，先验后验比率（PPR）CS实现了最紧的置信区间，尤其当真实参数接近先验均值时，得益于自适应收缩。
• 在低方差场景（如[0,1]上的均匀分布数据）中，霍夫丁型CS更为保守；而在高方差场景（如p=0.5的二值数据）中，经验伯恩斯坦CS更紧。
• 对于N=1000，霍夫丁和经验伯恩斯坦CS的每次更新分别耗时约2.1×10⁻⁴和2.35×10⁻⁴秒，而PPR CS耗时约0.306秒，显示出准确率与速度之间的权衡。
• 在模拟中，经验伯恩斯坦CS在低方差场景下优于霍夫丁，而霍夫丁在高方差情况下更保守，表明没有一种方法在所有情况下均占优。
• 该方法明确量化了无放回抽样的优势，表明其相比有放回抽样能产生显著更紧的置信区间，尤其在早期抽样阶段。