[论文解读] Learning Structure of Partial Markov Random Field via Partitioned Ratio

Song Liu, Taiji Suzuki+1 more|arXiv (Cornell University)|Apr 2, 2015

Face and Expression Recognition参考文献 31被引用 1

一句话总结

本文引入了分割比这一新概念，通过将马尔可夫随机场分解为‘桥接’（Bridges）子图结构，揭示其部分连接性。该方法提出一种一次性优化方法，无需假设高斯性，即可高效学习分割比的稀疏分解，并建立了算法正确恢复成对桥接因子分解的充分条件。

ABSTRACT

A new concept, \emph{partitioned ratio} is proposed to find the partial connectivity of the Markov random field. First we argue this partitioned ratio has a profound with the Markov properties of random variables via its factorization. Specifically, partitioned ratio may be further decomposed into \emph{Bridges}, a novel subgraph structure, capturing the partial connectivity of the Markov random field, which can be roughly considered as the link structure between two partitions. Second, a simple one-shot optimization is illustrated to learn the sparse factorizations of partitioned ratio efficiently, regardless the Gaussianity of the joint distribution or the marginal distributions. Third, we show the sufficient conditions for the proposed algorithm recovering the correct \emph{pairwise} bridge factorizations.

研究动机与目标

• 解决在完全或成对马尔可夫性质之外学习马尔可夫随机场中部分连接性的挑战。
• 开发一种方法，识别图形模型中分区之间的结构连接，而无需依赖分布假设。
• 提供一种计算高效的、一次性优化框架，用于分割比的稀疏分解。
• 建立算法能够以高概率正确恢复成对桥接因子分解的理论条件。

提出的方法

• 提出分割比作为新度量，通过分析条件独立结构，捕捉马尔可夫随机场中的部分连接性。
• 引入‘桥接’（Bridges）作为新型子图结构，表示两个分区之间的连接，形式化部分连接性。
• 开发一次性优化过程，学习分割比的稀疏分解，避免迭代优化。
• 设计优化过程具有分布无关性，无论联合分布或边缘分布是否为高斯分布，均可适用。
• 推导出算法以高概率正确恢复成对桥接因子分解的充分条件。
• 利用分割比的分解特性，将结构学习与条件独立性通过图分解联系起来。

实验结果

研究问题

• RQ1 如何通过新结构度量正式捕捉马尔可夫随机场中的部分连接性？
• RQ2 ‘桥接’子图在图形模型中表示分区之间连接的角色是什么？
• RQ3 是否可以设计一种一次性优化方法，无需分布假设，高效学习分割比的稀疏分解？
• RQ4 在何种条件下，所提算法能够正确恢复成对桥接因子分解？

主要发现

• 分割比为通过其分解分析马尔可夫随机场中的部分连接性，提供了新的理论框架。
• 分割比的分解揭示了‘桥接’作为基本子图结构，能够捕捉分区间的依赖关系。
• 所提的一次性优化方法可在无需高斯假设的前提下，高效学习稀疏分解。
• 建立了算法能正确恢复成对桥接因子分解的充分条件。
• 该方法对非高斯分布具有鲁棒性，扩展了其在传统高斯图形模型之外的适用范围。
• 理论基础将分割比的分解与通过条件独立性的随机变量马尔可夫性质联系起来。