[论文解读] Efficient Search-Based Weighted Model Integration

Zhe Zeng, Guy Van den Broeck|arXiv (Cornell University)|Mar 13, 2019

Bayesian Modeling and Causal Inference参考文献 38被引用 6

一句话总结

该论文提出了一种基于搜索的算法，用于在具有树状原始图的 SMT(ℝ) 理论中实现高效的加权模型积分（WMI），通过利用上下文特定独立性与多项式插值来分解积分问题。该方法实现了准多项式时间复杂度，并在树状结构问题上相比现有 WMI 求解器实现了显著的速度提升。

ABSTRACT

Weighted model integration (WMI) extends Weighted model counting (WMC) to the integration of functions over mixed discrete-continuous domains. It has shown tremendous promise for solving inference problems in graphical models and probabilistic programming. Yet, state-of-the-art tools for WMI are limited in terms of performance and ignore the independence structure that is crucial to improving efficiency. To address this limitation, we propose an efficient model integration algorithm for theories with tree primal graphs. We exploit the sparse graph structure by using search to performing integration. Our algorithm greatly improves the computational efficiency on such problems and exploits context-specific independence between variables. Experimental results show dramatic speedups compared to existing WMI solvers on problems with tree-shaped dependencies.

研究动机与目标

• 为解决现有 WMI 求解器在混合离散-连续域中未能有效利用结构独立性而导致的效率低下问题。
• 开发一种基于搜索的推理算法，利用稀疏的树状原始图以提升 WMI 中的计算效率。
• 通过变量实例化与多项式插值分解问题，实现精确的 WMI 计算。
• 通过复杂度分析，正式建立非平凡类 WMI 问题的可解性。
• 通过实证验证，在具有结构化树状原始图的问题上，该方法相比最先进 WMI 求解器实现了显著的性能提升。

提出的方法

• 该算法通过对 SMT(ℝ) 理论中具有树状原始图的共享变量进行递归实例化，执行搜索。
• 在变量实例化后，通过利用上下文特定独立性，将积分问题分解为子问题。
• 对于连续变量，选择有限个实例化点，并利用多项式插值恢复精确的 WMI 结果。
• 该方法对权重重构以保持逻辑结构，从而支持高效求解器编译。
• 复杂度分析表明，对于平衡的树状原始图，该方法具有准多项式时间性能。
• 该方法通过变量实例化与多项式插值将 WMI 问题转化为无权重模型积分（MI）问题，从而可重用现有 MI 求解器。

实验结果

研究问题

• RQ1 能否在具有树状原始图的 SMT(ℝ) 理论中利用结构独立性以提升 WMI 推理效率？
• RQ2 是否可以通过基于搜索的分解与连续变量的多项式插值实现精确的 WMI 计算？
• RQ3 具有分段多项式权重的树状结构理论中，WMI 的计算复杂度是多少？
• RQ4 在结构化稀疏问题上，该方法与现有 WMI 求解器相比性能如何？
• RQ5 因子化权重重构能否有效保持逻辑结构并支持高效推理？

主要发现

• 所提出的算法在具有树状原始图的问题上，相比现有 WMI 求解器实现了显著的速度提升。
• 对于平衡的树状原始图，该算法表现出准多项式时间复杂度，这是首个针对非平凡类 WMI 问题的可解性结果。
• 该方法通过变量实例化与多项式插值将 WMI 转化为无权重 MI 问题，从而实现精确计算。
• 实验结果证实，上下文特定独立性与结构分解显著减少了需积分的模型数量。
• 该算法有效利用稀疏图结构与因子化权重重构，提升了可扩展性与性能。
• 该方法在包含相关连续变量与布尔约束的合成与真实世界 WMI 问题上，均优于基线方法。