[论文解读] Inference in Polytrees with Sets of Probabilities

José Carlos Ferreira da Rocha, Fabio Gagliardi Cozmanl+1 more|arXiv (Cornell University)|Oct 19, 2012

Bayesian Modeling and Causal Inference参考文献 26被引用 29

一句话总结

本文提出了基于概率集和区间表示的贝叶斯网络中在树形网络（polytree）上进行概率推理的改进算法，引入了Tessem的A/R算法的增强版本、一种新型基于方向的局部搜索方法，以及分支定界法。这些技术显著降低了计算复杂度，在某些情况下实现了数量级的加速，同时支持在不精确概率模型下的精确与近似推理。

ABSTRACT

Inferences in directed acyclic graphs associated with probability sets and probability intervals are NP-hard, even for polytrees. In this paper we focus on such inferences, and propose: 1) a substantial improvement on Tessems A / R algorithm FOR polytrees WITH probability intervals; 2) a new algorithm FOR direction - based local search(IN sets OF probability) that improves ON existing methods; 3) a collection OF branch - AND - bound algorithms that combine the previous techniques.The first two techniques lead TO approximate solutions, WHILE branch - AND - bound procedures can produce either exact OR approximate solutions.We report ON dramatic improvements ON existing techniques FOR inference WITH probability sets AND intervals, IN SOME cases reducing the computational effort BY many orders OF magnitude.

研究动机与目标

• 解决使用概率集和区间表示的有向无环图中推理的计算不可行性问题。
• 改进在不精确概率模型下贝叶斯网络中树形网络的概率推理现有算法。
• 开发可扩展至真实世界不确定推理任务的高效方法。
• 在降低计算开销的前提下，实现精确与近似推理。
• 在基准问题上，展示相对于先前最先进方法的显著性能提升。

提出的方法

• 提出Tessem的A/R算法在概率区间上的增强版本，用于树形网络，提升效率与收敛性。
• 引入一种新型基于方向的局部搜索算法，以更有效地导航概率集空间。
• 开发结合改进的A/R算法与局部搜索技术的分支定界算法，实现稳健推理。
• 通过在网络中维护可能取值的边界，处理不精确概率。
• 结合局部搜索启发式方法与全局优化策略，平衡精度与计算成本。
• 框架支持根据用户指定容差进行精确推理或高效近似推理。

实验结果

研究问题

• RQ1 与现有方法相比，能否显著提升使用概率集的树形网络中的推理效率？
• RQ2 如何将局部搜索策略适配于贝叶斯网络中不精确概率空间的导航？
• RQ3 分支定界技术在不精确概率推理中能在多大程度上减少计算开销？
• RQ4 所提算法能否在保持实际运行时间性能的前提下实现精确推理？
• RQ5 在基准问题上，与先前方法相比，所提方法在计算效率上具有多大的实证提升？

主要发现

• 改进的A/R算法在使用概率区间的推理中实现了显著加速，优于原始的Tessem方法。
• 基于方向的局部搜索算法减少了搜索空间探索，提升了不精确概率推理中的收敛性能。
• 结合新方法的分支定界技术能够以高效率实现精确与近似推理。
• 在某些情况下，所提方法相比先前方法将计算开销降低了多个数量级。
• 该框架在多种具有不精确概率的测试问题中表现出强大的可扩展性与鲁棒性。
• 实证结果表明，运行时间性能得到显著提升，尤其在大规模或复杂结构的树形网络中。