[论文解读] Empirical Bayes Matrix Factorization

Wei Wang, Matthew Stephens|PubMed|Feb 20, 2018

Gene expression and cancer classification参考文献 66被引用 20

一句话总结

该论文提出了经验贝叶斯矩阵分解（EBMF），这是一种灵活的框架，通过从数据中估计诱导稀疏性的先验分布，以改进多元分析中的稀疏矩阵分解。通过利用变分近似将问题简化为正态均值问题，EBMF能够自适应地调节载荷和因子的稀疏水平，在模拟数据和真实的GTEx基因组数据上均表现出更高的准确性和可解释性，优于现有方法。

ABSTRACT

Matrix factorization methods, which include Factor analysis (FA) and Principal Components Analysis (PCA), are widely used for inferring and summarizing structure in multivariate data. Many such methods use a penalty or prior distribution to achieve sparse representations ("Sparse FA/PCA"), and a key question is how much sparsity to induce. Here we introduce a general Empirical Bayes approach to matrix factorization (EBMF), whose key feature is that it estimates the appropriate amount of sparsity by estimating prior distributions from the observed data. The approach is very flexible: it allows for a wide range of different prior families and allows that each component of the matrix factorization may exhibit a different amount of sparsity. The key to this flexibility is the use of a variational approximation, which we show effectively reduces fitting the EBMF model to solving a simpler problem, the so-called "normal means" problem. We demonstrate the benefits of EBMF with sparse priors through both numerical comparisons with competing methods and through analysis of data from the GTEx (Genotype Tissue Expression) project on genetic associations across 44 human tissues. In numerical comparisons EBMF often provides more accurate inferences than other methods. In the GTEx data, EBMF identifies interpretable structure that agrees with known relationships among human tissues. Software implementing our approach is available at https://github.com/stephenslab/flashr.

研究动机与目标

• 为解决稀疏矩阵分解中选择最优稀疏水平的挑战，这对可解释性和准确性至关重要。
• 开发一种灵活且数据自适应的方法，直接从观测数据中估计载荷和因子的先验分布。
• 在高维多元数据中提升推断的准确性和可解释性，特别是在基因组学和功能数据分析中。
• 提供一种可扩展且计算高效的框架，以推广现有的稀疏FA/PCA方法。
• 通过数值比较和在GTEx组织表达数据上的实际应用，证明该方法的优越性。

提出的方法

• EBMF采用经验贝叶斯方法，直接从观测数据矩阵中估计载荷和因子的稀疏性诱导先验分布。
• 通过变分近似将复杂的后验估计问题转化为更简单的“正态均值”问题，从而实现高效计算。
• 该方法通过估计各分量特定的先验，允许分解的不同组成部分具有不同的稀疏水平。
• 采用一类灵活的单峰对称先验（如拉普拉斯分布、霍希布分布），在支持稀疏性的同时保持计算上的可处理性。
• 算法通过基于惩罚正态均值估计的贪婪或回代策略，迭代更新载荷、因子和先验超参数。
• 提出一种新颖的正交交叉验证（OCV）方案，通过平衡行和列的留出模式，公平评估模型性能。

实验结果

研究问题

• RQ1 如何基于数据自适应地调节矩阵分解中的稀疏性，而非依赖于固定的惩罚参数？
• RQ2 经验贝叶斯对先验的估计是否能提升高维数据中稀疏矩阵分解的准确性和可解释性？
• RQ3 在真实基因组数据上，EBMF与现有稀疏FA/PCA方法相比，在重构误差和生物可解释性方面表现如何？
• RQ4 采用数据自适应先验估计策略对模型在不同数据结构下的稳定性和性能有何影响？
• RQ5 新颖的正交交叉验证方案是否能在因子模型中提供比标准k折交叉验证更可靠的模型选择？

主要发现

• 在数值比较中，EBMF始终优于竞争方法，在多种模拟设置下均实现了更低的重构误差和更高的估计准确性。
• 在GTEx数据上，EBMF成功识别出与人类组织间已知功能关系一致的生物学上可解释的组织特异性基因表达模式。
• 该方法有效学习到载荷和因子间异质的稀疏性，允许某些分量密集而其他分量高度稀疏，从而反映底层数据结构。
• 变分近似的使用使得推断可扩展，使EBMF适用于大规模基因组和多元数据集。
• 正交交叉验证（OCV）提供了一种平衡且可靠的模型选择方法，确保所有样本和特征在训练集和验证集中均等代表。
• 软件实现已公开发布于 https://github.com/stephenslab/flashr，支持可重现性和更广泛的应用。