[论文解读] Beliefs in Markov Trees - From Local Computations to Local Valuation.

Mieczysław A. Kłopotek|arXiv (Cornell University)|Apr 12, 2017

Bayesian Modeling and Causal Inference参考文献 7被引用 4

一句话总结

本文证明了在使用 Shenoy/Shafer 方法进行局部信念传播时，条件分布提供了最小的超图结构，证明了不存在比条件分布更简单的超边赋值方式。本文提出了一种方法，可从数据中恢复树状结构的信念网络，适用于达姆斯特定理（Dempster-Shafer）信念函数，从而在保证高效不确定性传播的同时，实现超图结构的最简化。

ABSTRACT

This paper is devoted to expressiveness of hypergraphs for which uncertainty propagation by local computations via Shenoy/Shafer method applies. It is demonstrated that for this propagation method for a given joint belief distribution no valuation of hyperedges of a hypergraph may provide with simpler hypergraph structure than valuation of hyperedges by conditional distributions. This has vital implication that methods recovering belief networks from data have no better alternative for finding the simplest hypergraph structure for belief propagation. A method for recovery tree-structured belief networks has been developed and specialized for Dempster-Shafer belief functions

研究动机与目标

• 确定使用 Shenoy/Shafer 传播方法实现联合信念分布局部计算所需的最小超图结构。
• 研究是否存在其他超边赋值方式，可使超图结构在条件分布之外进一步简化。
• 开发一种从数据中恢复树状结构信念网络的方法，适用于达姆斯特定理（Dempster-Shafer）证据理论。
• 确立条件分布在最小化局部信念传播中超图复杂度方面具有最优性。
• 为信念网络结构学习提供形式化基础，通过局部计算保持计算效率。

提出的方法

• 分析在使用 Shenoy/Shafer 方法进行局部计算时，超图在表示联合信念分布方面的表达能力。
• 证明在信念传播中，使用条件分布作为超边赋值时，无法获得比其更简单的超图结构。
• 将 Shenoy/Shafer 算法应用于超图，评估不同超边赋值方式对计算影响的差异。
• 开发一种专门用于从数据中学习树状结构信念网络的算法，适用于达姆斯特定理（Dempster-Shafer）信念函数。
• 利用超图表示建模条件独立关系，并确保在所提结构下局部计算依然有效。
• 通过将其他赋值方式与条件分布进行比较，建立超图复杂度的理论边界。

实验结果

研究问题

• RQ1 是否存在一种超图结构，其复杂度低于由条件分布定义的结构，但仍能通过 Shenoy/Shafer 方法实现局部信念传播？
• RQ2 是否存在一种替代的超边赋值方式，可在保持正确信念传播的同时降低结构复杂度？
• RQ3 在 Shenoy/Shafer 框架下，实现联合信念高效局部计算所需的最小超图结构是什么？
• RQ4 如何从数据中恢复树状结构的信念网络，同时保持与局部计算和达姆斯特定理（Dempster-Shafer）理论的兼容性？
• RQ5 条件分布在多大程度上定义了基于超图的信念网络中信念传播的最优超图结构？

主要发现

• 在使用 Shenoy/Shafer 方法进行局部信念传播时，没有任何超边赋值方式能产生比使用条件分布更简单的超图结构。
• 从理论上讲，使用条件分布可在保持联合信念正确传播的同时，最小化超图复杂度，具有最优性。
• 所提出的算法成功从数据中恢复了树状结构的信念网络，适用于达姆斯特定理（Dempster-Shafer）框架，确保局部计算依然可行。
• 研究表明，从数据中学习信念网络的方法无法在结构简洁性上超越基于条件分布的方法。
• 理论基础证实，条件分布在实现局部信念传播中最小超图表示方面具有不可替代性。
• 所开发的恢复方法确保所生成的信念网络结构能够支持高效、局部化的计算，且不损失表达能力。