[论文解读] Differentially Private False Discovery Rate Control

Cynthia Dwork, Weijie Su+1 more|arXiv (Cornell University)|Jul 11, 2018

Privacy-Preserving Technologies in Data参考文献 71被引用 11

一句话总结

本文提出了 PrivateBHq，这是首个用于在多重假设检验中控制错误发现率（FDR）的差分隐私程序。通过迭代地向变换后的p值添加噪声，并使用私有选择机制，该方法在保持FDR控制（最多存在一个微小乘法因子）的同时，确保了端到端的差分隐私，即使在检验统计量之间存在任意依赖关系的情况下亦成立。

ABSTRACT

Differential privacy provides a rigorous framework for privacy-preserving data analysis. This paper proposes the first differentially private procedure for controlling the false discovery rate (FDR) in multiple hypothesis testing. Inspired by the Benjamini-Hochberg procedure (BHq), our approach is to first repeatedly add noise to the logarithms of the $p$-values to ensure differential privacy and to select an approximately smallest $p$-value serving as a promising candidate at each iteration; the selected $p$-values are further supplied to the BHq and our private procedure releases only the rejected ones. Moreover, we develop a new technique that is based on a backward submartingale for proving FDR control of a broad class of multiple testing procedures, including our private procedure, and both the BHq step-up and step-down procedures. As a novel aspect, the proof works for arbitrary dependence between the true null and false null test statistics, while FDR control is maintained up to a small multiplicative factor.

研究动机与目标

• 开发一种差分隐私的多重检验程序，以在基因组学等隐私敏感应用中控制错误发现率（FDR）。
• 解决将差分隐私应用于迭代式 Benjamini-Hochberg（BHq）程序时，不损害 FDR 控制的挑战。
• 建立一种新的 FDR 控制证明框架，适用于包括私有与非私有变体在内的广泛多重检验程序类别。
• 证明在真实原假设与备择原假设检验统计量之间存在任意依赖关系时，FDR 控制依然成立，这是对先前假设的重大推广。

提出的方法

• 提出一种专为p值设计的新灵敏度定义，以在多重检验背景下实现差分隐私。
• 对p值的对数迭代添加噪声，以私有方式选择候选阈值，模拟 BHq 的逐步提升特性。
• 采用向后次鞅技术，证明适用于包括 PrivateBHq 在内的广泛多重检验程序类别的 FDR 控制。
• 利用差分隐私的组合定理，确保整个流程的端到端隐私保证。
• 在 m′ = 100 处实施截断机制，以在保持效率的同时维护隐私和 FDR 控制。
• 依赖一种私有剥除机制，以顺序方式识别并拒绝原假设，同时控制隐私损失。

实验结果

研究问题

• RQ1 能否构建一种差分隐私的多重检验程序，使其在检验统计量之间存在任意依赖关系时仍能保持 FDR 控制？
• RQ2 如何在不牺牲统计功效的前提下，将 BHq 程序的迭代结构适配以满足差分隐私？
• RQ3 当标准方法失效时，需要何种新颖的证明技术来建立私有多重检验程序的 FDR 控制？
• RQ4 随着真实效应数量的增加或隐私参数的减小，私有程序的性能会恶化到何种程度？
• RQ5 当真实原假设与备择原假设之间的依赖结构未知或复杂时，PrivateBHq 的 FDR 控制是否仍能维持？

主要发现

• PrivateBHq 在所有测试场景中均经验性地将 FDR 控制在目标水平 q，尽管理论保证仅适用于 k ≥ 2 的情况。
• 当隐私参数 ε 不过小且 η 不过大时，PrivateBHq 的统计功效与非私有的 BHq 相当。
• PrivateBHq 发现的原假设数量少于 BHq，但 FDR 更小，表明在隐私与误差控制之间实现了有利的权衡。
• 用作 FWER 控制基线的 PrivateBonf 在功效上始终低于 BHq 和 PrivateBHq，证实了在私有环境下 FWER 控制的低效性。
• 当真实效应数量超过 150 时，PrivateBHq 的功效下降，这是由于选择过程中固定截断在 m′ = 100 所致。
• 基于向后次鞅的证明技术使得在真实原假设与备择原假设检验统计量之间存在任意依赖关系时，仍能实现 FDR 控制，这是对先前假设的重大进步。