[论文解读] Solving the Empirical Bayes Normal Means Problem with Correlated Noise

Lei Sun, Matthew Stephens|arXiv (Cornell University)|Dec 18, 2018

Statistical Methods in Clinical Trials参考文献 62被引用 9

一句话总结

该论文提出了一种新颖的经验贝叶斯方法，用于处理在相关噪声下的正态均值问题，利用Schwartzman（2010）基于埃尔米特多项式表示相关标准正态变量的经验分布的方法。通过使用标准正态分布及其导数的基函数对噪声分布进行建模，该方法联合估计先验分布与噪声分布，即使在强相关性下也能实现精确的收缩估计与FDR控制，模拟结果表明其优于标准的经验贝叶斯方法。

ABSTRACT

The Normal Means problem plays a fundamental role in many areas of modern high-dimensional statistics, both in theory and practice. And the Empirical Bayes (EB) approach to solving this problem has been shown to be highly effective, again both in theory and practice. However, almost all EB treatments of the Normal Means problem assume that the observations are independent. In practice correlations are ubiquitous in real-world applications, and these correlations can grossly distort EB estimates. Here, exploiting theory from Schwartzman (2010), we develop new EB methods for solving the Normal Means problem that take account of unknown correlations among observations. We provide practical software implementations of these methods, and illustrate them in the context of large-scale multiple testing problems and False Discovery Rate (FDR) control. In realistic numerical experiments our methods compare favorably with other commonly-used multiple testing methods.

研究动机与目标

• 解决现有经验贝叶斯方法在正态均值问题中的关键局限性，即假设观测值独立，而现实中普遍存在相关性。
• 开发一种理论基础扎实且实用的方法，以处理高维正态位置问题中噪声项未知的相关性。
• 提升在相关性扭曲标准经验贝叶斯估计的多重检验场景中后验均值估计的准确性与错误发现率（FDR）控制能力。
• 通过R包cashr提供计算上可行的实现，便于在基因组学及其他高维场景中实际应用。

提出的方法

• 利用Schwartzman（2010）的表示方法，将相关标准正态变量的经验分布建模为埃尔米特多项式及其导数的级数展开。
• 假设噪声向量Z具有交换性，并利用φ(x)及其导数φ^{(l-1)}(x)构成的基函数，结合相关性矩ρ̄^l，对极限经验分布F_p进行建模。
• 通过两步经验贝叶斯程序联合估计先验分布g(θ)与噪声分布F_p，其中g被假设为高斯分布的尺度混合（自适应收缩）。
• 采用经验分布函数F_p的基展开，以捕捉由相关性引起的对标准正态CDF Φ(x)的偏差。
• 利用梅勒（Mehler）恒等式及二元正态变量的联合CDF，推导F_p的协方差结构，从而实现对相关性效应在经验分布中影响的估计。
• 在R包cashr中实现该方法，支持在大规模多重检验问题中对相关噪声下的可扩展估计与推断。

实验结果

研究问题

• RQ1 在正态均值问题中，观测值间未知的相关性在多大程度上扭曲了标准经验贝叶斯估计？
• RQ2 能否通过埃尔米特函数及其导数的基函数准确表示相关标准正态变量的经验分布？
• RQ3 如何将先验分布与噪声分布的联合估计形式化，以校正收缩与FDR控制中的相关性偏差？
• RQ4 在具有相关检验统计量的多重检验场景中，所提出的方法在FDR估计与检验效能方面改善程度如何？

主要发现

• 当相关性不可忽略时，特别是当高阶矩的平均相关性ρ̄^l非零时，相关标准正态变量的经验分布F_p与标准正态CDF Φ(x)存在显著偏离。
• F_p的方差与协方差主要受∑ₗ ρ̄^l [φ^{(l-1)}(x)/√l!]²项主导，该表达式在强相关性下仍不趋于零，从而破坏了标准经验贝叶斯方法中i.i.d.假设的有效性。
• 所提出的方法即使在强相关性下也能成功恢复真实的潜在先验分布g(θ)，模拟结果验证了其在相关噪声结构下的有效性。
• 在大规模多重检验模拟中，该方法在相关噪声下实现了优于标准经验贝叶斯方法与Benjamini-Hochberg程序的FDR控制能力与更高的统计效能。
• R包cashr使得该方法可应用于真实数据，实证结果表明其在基因组学风格数据集中对未知相关结构具有稳健性。