[论文解读] Graphical Models as Block-Tree Graphs

Divyanshu Vats, José M. F. Moura|arXiv (Cornell University)|Jul 4, 2010

Graph Theory and Algorithms参考文献 46被引用 3

一句话总结

本文提出块树图（block-tree graphs）作为一种新颖的图模型推理框架，其中节点簇之间互不重叠，而非像联结树（junction-trees）那样存在重叠。通过将两点边值问题转化为初值问题，并为高斯模型建立线性状态空间表示，块树图支持通过生成块树（spanning block-trees）实现更快收敛的近似估计，在网格图和小世界图上其收敛速度优于生成树（spanning trees）。

ABSTRACT

We introduce block-tree graphs as a framework for deriving efficient algorithms on graphical models. We define block-tree graphs as a tree-structured graph where each node is a cluster of nodes such that the clusters in the graph are disjoint. This differs from junction-trees, where two clusters connected by an edge always have at least one common node. When compared to junction-trees, we show that constructing block-tree graphs is faster, and finding optimal block-tree graphs has a much smaller search space. Applying our block-tree graph framework to graphical models, we show that, for some graphs, e.g., grid graphs, using block-tree graphs for inference is computationally more efficient than using junction-trees. For graphical models with boundary conditions, the block-tree graph framework transforms the boundary valued problem into an initial value problem. For Gaussian graphical models, the block-tree graph framework leads to a linear state-space representation. Since exact inference in graphical models can be computationally intractable, we propose to use spanning block-trees to derive approximate inference algorithms. Experimental results show the improved performance in using spanning block-trees versus using spanning trees for approximate estimation over Gaussian graphical models.

研究动机与目标

• 解决具有环路的图模型中精确推理的计算不可行性，特别是针对高树宽图。
• 通过缩小最优树结构表示的搜索空间，开发一种比联结树更具可扩展性的替代方案。
• 通过将两点边值问题转化为初值问题，为高斯图模型实现递归与状态空间表示。
• 设计基于生成块树的近似推理算法，以实现高斯图模型中更快的收敛速度。
• 在传感器网络、图像处理和视频监控等图结构复杂的实际应用中，提升估计性能。

提出的方法

• 将块树图定义为簇之间互不重叠的树状图结构，其中块宽（block-width）为最大簇的大小。
• 通过选择一个根簇并迭代寻找相邻簇来构建块树图，该过程唯一确定图的结构。
• 利用块树框架将图模型中的两点边值问题转化为初值问题。
• 通过利用块树结构，为高斯图模型推导出线性状态空间模型。
• 提出生成块树作为近似推理的启发式方法，通过残差误差最小化迭代更新权重。
• 使用算法2基于从精度矩阵导出的加权图计算B-width生成块树。

实验结果

研究问题

• RQ1 块树图是否能为构建图模型的树状结构表示提供比联结树更高效的替代方案？
• RQ2 块树框架如何实现图模型中两点边值问题到初值问题的转化？
• RQ3 块树图在多大程度上支持高斯图模型的线性状态空间表示？
• RQ4 使用生成块树是否能相比生成树在近似估计算法中实现更快的收敛速度？
• RQ5 块树框架能否有效应用于离散图模型以实现近似推理？

主要发现

• 在网格图和小世界图上，使用生成块树进行高斯图模型的近似估计相比使用生成树实现了显著更快的收敛速度。
• 在50×50网格图上，使用块宽为3和5的生成块树进行估计的收敛速度优于使用生成树，如图8所示。
• 在70×70网格图上，同样观察到该趋势，生成块树在每次迭代中均达到更低的残差误差。
• 在15×15网格图（含两个高阶度中心节点）上，生成块树（BT-2和BT-3）在估计值和误差协方差收敛方面均优于生成树，如图9所示。
• 块树框架支持自然的初值问题建模，简化了递归估计与平滑算法的实现。
• 块树图的构建比联结树更简单、更快速，仅需根簇信息，而无需完整图的知识。