[论文解读] Adaptive Monte Carlo Multiple Testing via Multi-Armed Bandits

Martin Jinye Zhang, James Zou+1 more|arXiv (Cornell University)|Feb 1, 2019

Advanced Bandit Algorithms Research参考文献 53被引用 5

一句话总结

本文提出自适应蒙特卡洛多重假设检验（AMT），一种利用多臂老虎机原理降低大规模多重假设检验中蒙特卡洛置换检验计算成本的算法。AMT 仅使用 Õ(√n m) 个样本，即可实现与完整蒙特卡洛检验相同的错误发现率（FDR）控制，相比原本的 nm 个样本，将真实 GWAS 数据上的运行时间从数月缩短至数小时。

ABSTRACT

Monte Carlo (MC) permutation test is considered the gold standard for statistical hypothesis testing, especially when standard parametric assumptions are not clear or likely to fail. However, in modern data science settings where a large number of hypothesis tests need to be performed simultaneously, it is rarely used due to its prohibitive computational cost. In genome-wide association studies, for example, the number of hypothesis tests $m$ is around $10^6$ while the number of MC samples $n$ for each test could be greater than $10^8$, totaling more than $nm$=$10^{14}$ samples. In this paper, we propose Adaptive MC multiple Testing (AMT) to estimate MC p-values and control false discovery rate in multiple testing. The algorithm outputs the same result as the standard full MC approach with high probability while requiring only $ ilde{O}(\sqrt{n}m)$ samples. This sample complexity is shown to be optimal. On a Parkinson GWAS dataset, the algorithm reduces the running time from 2 months for full MC to an hour. The AMT algorithm is derived based on the theory of multi-armed bandits.

研究动机与目标

• 为解决在大规模多重假设检验中完整蒙特卡洛（fMC）置换检验的高昂计算成本问题，特别是在 GWAS 中 m ≈ 10^6 个检验和每个检验 n > 10^8 个样本的情形下。
• 开发一种自适应采样策略，以显著减少蒙特卡洛样本数量，同时恢复与完整 fMC 检验相同的检验结果（即在 Benjamini-Hochberg FDR 控制后相同的发现结果）。
• 通过将蒙特卡洛样本总数从 nm 减少至 Õ(√n m)，实现最优样本复杂度，该结果被证明在信息论上是最优的。
• 使金标准蒙特卡洛置换检验在现代数据科学中的实际应用成为可能，特别是在全量 fMC 不可行的基因组学领域。

提出的方法

• AMT 利用多臂老虎机理论，根据估计的 p 值精度和发现潜力，在 m 个假设检验之间自适应分配蒙特卡洛样本。
• 该算法维护蒙特卡洛 p 值的置信区间，并优先对不确定性较高或在 FDR 控制下最可能被发现的假设进行采样。
• 采用基于似然比的停止准则，以高概率恢复 fMC 结果，利用超几何分布类似采样的集中不等式。
• 该方法动态平衡探索（对不确定 p 值进行采样）与利用（集中于有希望的候选对象），以最小化总样本数，同时保持统计有效性。
• AMT 采用非独立同分布的采样方案，从置换数据中无放回地抽取样本，并对无放回采样提出新颖分析，以界定误差概率。
• 该算法设计为以高概率输出与完整 MC 方法相同的发现集合，确保统计保真度。

实验结果

研究问题

• RQ1 自适应采样能否显著减少恢复完整蒙特卡洛检验结果所需的蒙特卡洛样本总数？
• RQ2 在错误发现率控制下，恢复完整 fMC 结果的样本复杂度 Õ(√n m) 是否最优？
• RQ3 多臂老虎机原理能否有效应用于蒙特卡洛置换检验，以加速计算而不牺牲统计有效性？
• RQ4 在大规模假设检验中，如何在最小化总采样成本的同时，确保以高概率恢复 fMC 结果？

主要发现

• AMT 将蒙特卡洛样本总数从 nm 减少至 Õ(√n m)，实现了恢复完整蒙特卡洛结果的可证明最优样本复杂度。
• 在包含 m ≈ 10^6 个 SNP 和每个检验 n ≈ 10^8 个样本的帕金森病 GWAS 数据集中，AMT 将运行时间从 2 个月缩短至约 1 小时。
• 该算法以高概率恢复与完整蒙特卡洛方法相同的发现集合，确保了统计保真度。
• 理论分析证明，在 p 值方差有界的假设下，Õ(√n m) 是该恢复任务的最优样本复杂度。
• 似然比分析表明，任何备择假设下的错误概率均与零保持有界距离，从而证明当 δ ≤ c8/8 时，δ-正确算法不可能存在，确立了根本性的下界。