[论文解读] Gene Network Reconstruction using Global-Local Shrinkage Priors

Gwenaël G. R. Leday, Mathisca C. M. de Gunst+4 more|arXiv (Cornell University)|Oct 13, 2015

Gene expression and cancer classification参考文献 35被引用 2

一句话总结

该论文提出了一种使用全局-局部收缩先验的贝叶斯联合方程模型，用于基因网络重建，通过共轭先验和变分推断实现快速、稳定的估计，无需调参。该方法通过在基因间借用信息，对局部正则化参数进行全局收缩，提高了边检测的准确性和可重复性，在模拟数据和真实数据中均优于稀疏方法。

ABSTRACT

Reconstructing a gene network from high-throughput molecular data is often a challenging task, as the number of parameters to estimate easily is much larger than the sample size. A conventional remedy is to regularize or penalize the model likelihood. In network models, this is often done locally in the neighbourhood of each node or gene. However, estimation of the many regularization parameters is often difficult and can result in large statistical uncertainties. In this paper we propose to combine local regularization with global shrinkage of the regularization parameters to borrow strength between genes and improve inference. We employ a simple Bayesian model with non-sparse, conjugate priors to facilitate the use of fast variational approximations to posteriors. We discuss empirical Bayes estimation of hyper-parameters of the priors, and propose a novel approach to rank-based posterior thresholding. Using extensive model- and data-based simulations, we demonstrate that the proposed inference strategy outperforms popular (sparse) methods, yields more stable edges, and is more reproducible.

研究动机与目标

• 解决当参数数量超过样本量时的高维基因网络推断挑战。
• 通过结合局部正则化与正则化参数的全局收缩，提高估计的稳定性和可重复性。
• 开发一种计算高效的算法，避免通过重抽样或交叉验证进行超参数调优。
• 通过一种新颖的基于秩的后验阈值化方法，在高斯图模型中实现稳健的边选择。

提出的方法

• 使用联合方程模型（SEMs）将每个基因对所有其他基因进行回归，将网络恢复问题建模为变量选择问题。
• 应用非稀疏共轭先验（如正态-伽马分布），以实现快速的变分后验近似。
• 实施全局-局部收缩先验：每个基因有局部收缩，同时在基因间进行全局收缩，以借用信息。
• 通过变分期望-最大化（EM）型算法实现超参数的经验贝叶斯估计。
• 提出一种新颖的基于秩的后验阈值化方法，在完成完整后验估计后选择边。
• 利用SVD分解加速计算并确保可扩展性。

实验结果

研究问题

• RQ1 对局部正则化参数进行全局收缩，是否能提高基因网络中边检测的稳定性和可重复性？
• RQ2 在高维设置下，结合全局与局部收缩是否优于标准稀疏方法？
• RQ3 是否可以通过完全的贝叶斯方法结合共轭先验，在无需交叉验证或重抽样调优的情况下实现具有竞争力的性能？
• RQ4 所提出的基于秩的阈值化方法与传统稀疏性诱导惩罚相比，在边恢复方面表现如何？

主要发现

• 在低维、中等维和高维的模拟设置下，该方法在边检测准确性方面优于流行的稀疏方法（如图模型Lasso）。
• 由于全局收缩降低了估计不确定性，该方法在真实数据应用中产生了更稳定、更可重复的网络结构。
• 通过变分EM算法实现的超参数经验贝叶斯估计，实现了高效的计算，且不依赖于交叉验证或重抽样。
• 基于秩的后验阈值化方法成功识别出相关边，且在先验层面不强制稀疏性，从而提高了灵活性和性能。
• 通过SVD近似和共轭先验，计算效率得以保持，使该方法能够扩展到中等规模的基因网络。