[论文解读] A Bandit Approach to Multiple Testing with False Discovery Control

Kevin Jamieson, Lalit Jain|arXiv (Cornell University)|Sep 6, 2018

Advanced Bandit Algorithms Research参考文献 29被引用 10

一句话总结

本文提出了一种受多臂赌博机启发的自适应采样算法，用于多重假设检验，旨在最大化统计功效的同时确保任意时间的错误发现率（FDR）控制。通过根据序列反馈动态分配样本给有希望的假设，该方法实现了接近最优的样本复杂度，在模拟中显著优于均匀采样和自适应消除策略，并匹配信息论下限。

ABSTRACT

We propose an adaptive sampling approach for multiple testing which aims to maximize statistical power while ensuring anytime false discovery control. We consider $n$ distributions whose means are partitioned by whether they are below or equal to a baseline (nulls), versus above the baseline (actual positives). In addition, each distribution can be sequentially and repeatedly sampled. Inspired by the multi-armed bandit literature, we provide an algorithm that takes as few samples as possible to exceed a target true positive proportion (i.e. proportion of actual positives discovered) while giving anytime control of the false discovery proportion (nulls predicted as actual positives). Our sample complexity results match known information theoretic lower bounds and through simulations we show a substantial performance improvement over uniform sampling and an adaptive elimination style algorithm. Given the simplicity of the approach, and its sample efficiency, the method has promise for wide adoption in the biological sciences, clinical testing for drug discovery, and online A/B/n testing problems.

研究动机与目标

• 开发一种自适应采样策略，以在确保任意时间错误发现率（FDR）控制的前提下，最大化多重检验中的统计功效。
• 解决均匀采样和启发式自适应方法的局限性，这些方法可能导致次优功效或不受控的错误发现。
• 实现与已知多重检验中FDR控制的信息论下限相匹配的样本复杂度。
• 使该方法适用于临床试验、药物发现和在线A/B/n测试等实际场景，其中测量预算有限。
• 提供一种理论基础坚实、简单且高效的算法，能够根据观测结果动态分配样本。

提出的方法

• 该算法采用多臂赌博机框架，从n个未知均值的分布（即各臂）中进行序列采样，其中每条臂要么是原假设（均值 = μ₀），要么是真实正例（均值 > μ₀）。
• 在每个时间步，算法根据估计的效应大小选择臂，并使用基于序列置信区间推导出的阈值规则维护一个发现集合（预测为正例的集合）。
• 采用一种新颖的自适应采样规则，优先选择估计效应大小更高的臂，同时通过基于Benjamini-Hochberg程序动态更新的拒绝阈值来维持FDR控制。
• 该方法利用大数定律不等式（如Bernstein和Dvoretzky-Kiefer-Wolfowitz不等式）构建经验均值的时间一致置信区间，从而实现任意时间的FDR控制。
• 该算法动态调整采样分配，以最小化达到目标真正发现比例所需的总样本数，并对FDR和功效提供理论保证。
• 通过在 dyadic 区间上使用并集界和鞅论证，推导出经验过程的高概率界，确保在所有时间步上均具有鲁棒性。

实验结果

研究问题

• RQ1 自适应采样策略是否能在保持任意时间FDR控制的前提下，实现比均匀采样更高的统计功效？
• RQ2 当所有真实正例具有相同效应大小时，自适应分配是否仍能提供性能优势？
• RQ3 自适应多重检验中FDR控制的最优样本复杂度是多少？能否匹配信息论下限？
• RQ4 在在线、序列检验设置中，如何在所有时间步上实现FDR的统一控制？
• RQ5 一种简单、受赌博机启发的算法是否能在样本效率和发现率方面实现近似最优性能？

主要发现

• 所提出的算法实现了与已知多重检验中FDR控制的信息论下限相匹配的样本复杂度。
• 在模拟中，该方法显著优于均匀采样和自适应消除策略，在更少样本下实现了更高的真正发现比例。
• 即使所有真实正例具有相同的效应大小，自适应分配在相同FDR约束下仍显著优于均匀采样，展现出显著的功效优势。
• 该算法确保了任意时间FDR控制，即无论底层问题实例如何，预期错误发现比例在所有时间步均被控制在δ以内。
• 理论分析证实，该方法在广义次高斯噪声下仍能保持FDR控制，其界通过鞅集中不等式和时间区间上的并集界推导得出。
• 该算法的简洁性与强大的理论保证使其非常适合应用于生物学、临床检测以及在线A/B/n实验等实际场景。