[论文解读] Bayesian Boolean Matrix Factorisation

Tammo Rukat, Chris Holmes+2 more|arXiv (Cornell University)|Feb 20, 2017

Gene expression and cancer classification参考文献 19被引用 10

一句话总结

该论文提出了OrMachine，一种用于布尔矩阵分解的贝叶斯概率模型，通过Metropolised Gibbs采样实现完整的后验推断。该方法在分解和补全任务中优于现有方法，可扩展至大规模数据集（例如130万个小鼠脑细胞），并在单细胞基因组数据中揭示出可解释的、分层的生物学模式。

ABSTRACT

Boolean matrix factorisation aims to decompose a binary data matrix into an approximate Boolean product of two low rank, binary matrices: one containing meaningful patterns, the other quantifying how the observations can be expressed as a combination of these patterns. We introduce the OrMachine, a probabilistic generative model for Boolean matrix factorisation and derive a Metropolised Gibbs sampler that facilitates efficient parallel posterior inference. On real world and simulated data, our method outperforms all currently existing approaches for Boolean matrix factorisation and completion. This is the first method to provide full posterior inference for Boolean Matrix factorisation which is relevant in applications, e.g. for controlling false positive rates in collaborative filtering and, crucially, improves the interpretability of the inferred patterns. The proposed algorithm scales to large datasets as we demonstrate by analysing single cell gene expression data in 1.3 million mouse brain cells across 11 thousand genes on commodity hardware.

研究动机与目标

• 开发一种用于布尔矩阵分解的贝叶斯框架，实现完整的后验推断，这对于实际应用中的不确定性量化至关重要。
• 解决现有布尔矩阵分解方法中缺乏概率推断的问题，这些方法通常依赖于点估计或启发式算法。
• 将后验推断扩展至大规模数据集，例如包含130万个细胞和11,000个基因的单细胞基因表达数据，在普通硬件上实现高效计算。
• 在二值数据（如基因表达模式和图像组件）中发现可解释的、分层的潜在结构。
• 以一致的概率化方式支持缺失数据填补和先验知识的整合。

提出的方法

• OrMachine使用布尔运算（OR）将二值数据建模为两个低秩二值矩阵Z和U的布尔乘积：x_{nd} = ⋁_{l=1}^L (z_{nl} ∧ u_{ld})。
• 定义生成过程，其中每个观测值是潜在二值编码的布尔组合，且对潜在变量施加先验分布。
• 采用Metropolised Gibbs采样进行后验推断，实现从联合后验分布中高效且可并行采样。
• 该算法设计高效，可在4核台式机上10–20轮内收敛，24核集群上10–30分钟内完成。
• 通过堆叠多层OrMachine学习分层表示，其中高层编码由低层分解推断得出。
• 该方法支持缺失数据处理，并可通过在潜在变量上施加信息性先验来整合先验知识。

实验结果

研究问题

• RQ1 完全的贝叶斯方法在布尔矩阵分解中是否能提供比现有点估计或启发式方法更可靠且可解释的分解结果？
• RQ2 在大规模二值数据集（如包含数十亿个数据点的单细胞基因组学数据）上，后验推断的效率如何？
• RQ3 OrMachine是否能在不预设分层模型结构的情况下，自然地揭示潜在表示中的有意义分层结构？
• RQ4 与最先进的消息传递方法相比，完整的后验推断是否能提升矩阵补全和分解任务的性能？
• RQ5 该模型是否能有效识别出高通量单细胞数据中具有生物学合理性的基因特征和细胞状态？

主要发现

• OrMachine在模拟和真实世界数据的布尔矩阵分解与补全任务中，优于所有现有方法。
• 该方法可扩展至约1.4×10^10个数据点（130万个细胞 × 11,000个基因），在4核台式机上一小时内完成收敛。
• 后验不确定性量化可更好地控制假阳性率，尤其在协同过滤和基因组学中具有重要意义。
• 在潜在空间中自然涌现出分层模式：随着潜在维度增加，密集的基因集会分裂为更具体、更具生物学合理性的功能组。
• 基因集富集分析表明，每个推断编码独有的基因显著关联于已知生物过程（如嗅球、海马体），校正后的p值在10^-3至1量级。
• 在单细胞数据中，随着潜在维度的增加，表示更加分布化，细胞分配的后验不确定性也相应提高，反映出更高的生物学特异性。