[论文解读] Bayesian Inference of Graphical Model Structures Using Trees

Loïc Schwaller, Stéphane Robin+1 more|arXiv (Cornell University)|Apr 10, 2015

Bayesian Modeling and Causal Inference参考文献 24被引用 9

一句话总结

该论文提出一种贝叶斯方法，通过将搜索限制在生成树上，学习马尔可夫随机场结构，利用矩阵-树定理实现边后验概率的精确计算。尽管假设简化为树结构，该方法在合成数据和流式细胞术数据上均实现了准确的结构恢复。

ABSTRACT

We propose to learn the structure of an undirected graphical model by computing exact posterior probabilities for local structures in a Bayesian framework. This task would be untractable without any restriction on the considered graphs. We limit our exploration to the spanning trees and define priors on tree structures and parameters that allow fast and exact computation of the posterior probability for an edge to belong to the random tree thanks to an algebraic result called the Matrix-Tree theorem. We show that the assumption we have made does not prevent our approach to perform well on synthetic and flow cytometry data.

研究动机与目标

• 开发一种在精确贝叶斯推断下学习无向图模型结构的可行方法。
• 通过将候选图限制为生成树，克服结构学习中的计算不可行性。
• 定义树结构和参数的共轭先验，以实现边包含的快速、精确后验计算。
• 评估树结构限制是否会影响在真实数据和合成数据上的性能。

提出的方法

• 利用矩阵-树定理计算随机生成树中边的精确后验概率。
• 在树结构上定义非信息先验，在模型参数上定义共轭先验，以实现解析计算。
• 使用贝叶斯框架计算给定边属于随机树的边缘后验概率。
• 通过选择后验包含概率较高的边来执行结构学习。
• 将搜索空间限制在生成树上，使精确推断在计算上变得可行。
• 将该方法应用于合成数据和真实的流式细胞术数据，以评估性能。

实验结果

研究问题

• RQ1 通过将搜索限制在生成树上，能否使无向图模型结构的精确贝叶斯推断在计算上变得可行？
• RQ2 在真实世界数据中，树结构模型在多大程度上能近似真实的潜在图结构？
• RQ3 在该背景下，使用矩阵-树定理是否能实现边后验概率的高效且精确计算？
• RQ4 该方法在具有已知结构的合成数据上的表现如何？
• RQ5 该方法在高维生物数据（如流式细胞术数据）上的表现如何？

主要发现

• 该方法利用矩阵-树定理实现了边后验概率的精确计算，使结构学习变得可行。
• 树结构限制并未影响在具有已知图结构的合成数据上的优异性能。
• 该方法在流式细胞术数据上实现了准确的结构恢复，表明其对真实世界复杂性的鲁棒性。
• 共轭先验的使用使得解析计算成为可能，无需数值近似。
• 贝叶斯框架通过后验概率提供了边包含的连贯不确定性估计。
• 该方法表明，当与精确贝叶斯推断结合时，树结构模型在学习无向图模型方面具有有效性。