[论文解读] Game-theoretic statistics and safe anytime-valid inference

Aaditya Ramdas, Peter Grünwald+2 more|arXiv (Cornell University)|Oct 4, 2022

Statistical Methods and Inference被引用 6

一句话总结

本文提出安全的任意时间有效推断（SAVI），一种基于博弈论的框架，通过使用e-过程（从1开始的非负鞅）实现可选停止和持续监控下的有效统计推断。该框架提供普遍有效的证据度量和置信序列，确保在所有停止时间下均有效，其关键进展体现在非参数复合假设检验和使用检验鞅与维尔不等式的鲁棒估计方面。

ABSTRACT

Safe anytime-valid inference (SAVI) provides measures of statistical evidence and certainty -- e-processes for testing and confidence sequences for estimation -- that remain valid at all stopping times, accommodating continuous monitoring and analysis of accumulating data and optional stopping or continuation for any reason. These measures crucially rely on test martingales, which are nonnegative martingales starting at one. Since a test martingale is the wealth process of a player in a betting game, SAVI centrally employs game-theoretic intuition, language and mathematics. We summarize the SAVI goals and philosophy, and report recent advances in testing composite hypotheses and estimating functionals in nonparametric settings.

研究动机与目标

• 开发一种在可选停止和数据窥探下仍保持有效的统计框架，以应对科学中的可重复性危机。
• 提供普遍有效的统计证据度量（e值）和置信序列，确保在所有停止时间下均有效。
• 通过博弈论概率和鞅理论，将传统频率学派推断扩展至处理顺序性、自适应数据收集。
• 通过引入e-过程和检验上鞅，解决p值和贝叶斯方法在数据依赖停止下的局限性。
• 通过通用推断和反向信息投影，推进非参数推断，特别是针对复合假设和泛函的推断。

提出的方法

• 将检验鞅（从1开始的非负鞅）作为赌博游戏中代表对原假设统计证据的财富过程。
• 应用维尔不等式，确保检验鞅超过任意阈值的概率被该阈值的倒数所限制，从而保证任意时间有效性。
• 采用e-过程作为在原假设下为非负上鞅的随机过程，实现任意时间有效的p值和置信序列。
• 引入通用推断（UI）和反向信息投影（RIPr），在无需精确备择假设的情况下构建复合假设的e-过程。
• 通过e值的平均化和乘积运算，结合多个检验或数据流的证据，同时保持有效性。
• 通过粗化过滤（例如使用共形p值或群不变统计量）构建更强大的e-过程，同时在可选停止下保持安全性。

实验结果

研究问题

• RQ1 我们能否构建在所有停止时间下均有效的e-过程，即使数据收集基于中期结果而被中止或继续？
• RQ2 如何将e-过程扩展至复合原假设和备择假设的非参数设置，特别是在精确备择假设未知时？
• RQ3 反向信息投影（RIPr）在何种条件下能产生e-过程，而非仅生成e变量序列？
• RQ4 过滤的选择如何影响e-过程的安全性和功效？在何种情况下粗化是有益的？
• RQ5 在可容许性和效率方面，通用推断、RIPr与其他e-过程构造方法之间的理论与实际权衡是什么？

主要发现

• 通过通用推断和反向信息投影构建的e-过程在非参数设置下的复合假设检验中被证明是有效的，包括对称性、交换性和对数凹性检验。
• 本文表明，即使原假设为复合且无精确备择假设，也可通过如在原模型上对检验鞅取下确界等技术构建e-过程。
• 对于具有群不变性的参数模型（如t检验），可在粗化过滤中构建e-过程，其功效优于通用推断，同时仍保持安全性。
• 在高斯位置模型中，基于RIPr的e-过程在GRO（最大风险最优性）意义下被证明是最优的，其增长速率优于通用推断。
• 本文指出，e-过程的可容许性不仅要求检验鞅的下确界，还需其在事件上的行为一致，揭示了当前表征中的一个缺口。
• 数值结果表明，RIPr-based e-过程在具有已知结构的场景中可能比通用推断更具功效，但通用情况下的高效算法仍是开放挑战。