Skip to main content
QUICK REVIEW

[论文解读] Why is Compiling Lifted Inference into a Low-Level Language so Effective?

Seyed Mehran Kazemi, David Poole|arXiv (Cornell University)|Jun 14, 2016
Bayesian Modeling and Causal Inference参考文献 21被引用 3
一句话总结

本文研究了为何将提升推理编译为低级程序(LRC2CPP)相较于编译为数据结构(如WFOMC)能实现数量级的速度提升。研究证明,主要提速原因在于程序的高效编译与优化,而非编译过程本身,并证实即使使用相同的底层逻辑,通过编译执行程序也远快于解释执行数据结构。

ABSTRACT

First-order knowledge compilation techniques have proven efficient for lifted inference. They compile a relational probability model into a target circuit on which many inference queries can be answered efficiently. Early methods used data structures as their target circuit. In our KR-2016 paper, we showed that compiling to a low-level program instead of a data structure offers orders of magnitude speedup, resulting in the state-of-the-art lifted inference technique. In this paper, we conduct experiments to address two questions regarding our KR-2016 results: 1- does the speedup come from more efficient compilation or more efficient reasoning with the target circuit?, and 2- why are low-level programs more efficient target circuits than data structures?

研究动机与目标

  • 确定LRC2CPP相较于WFOMC的性能提升是否源于更快的编译,或源于目标电路中更快的推理。
  • 探究为何以低级程序作为目标电路的推理比以数据结构作为目标更高效。
  • 验证假设:程序的编译与优化带来的性能提升远超基于解释器执行数据结构的性能提升。
  • 分离编译与优化对观察到的性能提升的贡献。

提出的方法

  • 作者在三个具有不同群体规模的马尔可夫逻辑网络基准上,比较了LRC2CPP与WFOMC的端到端运行时间。
  • 他们将总时间分解为编译和推理两个阶段,以隔离性能提升的来源。
  • 他们从LRC2CPP生成C++程序,并通过三种执行模式评估推理性能:使用-O3优化编译、未优化编译,以及使用Ch 7.5.3进行解释执行。
  • 他们将这些执行模式与WFOMC基于数据结构的推理进行对比,使用相同的逻辑模型和查询。
  • 他们测量了解释执行与编译执行之间的加速比,以及优化编译与非优化编译之间的加速比。
  • 他们使用统计分析量化了编译与优化对整体加速的相对贡献。

实验结果

研究问题

  • RQ1LRC2CPP相较于WFOMC的性能优势是否主要源于更快的编译,或源于目标电路中更快的推理?
  • RQ2为何低级程序作为提升推理的目标电路比数据结构更高效?
  • RQ3性能提升是源于程序能够被编译和优化的能力,还是源于程序表示本身的固有特性?
  • RQ4与代码优化相比,程序编译在性能提升中所占的比重有多大?
  • RQ5是否可以定量地分离并测量解释执行数据结构与编译执行程序之间的性能差距?

主要发现

  • 在LRC2CPP和WFOMC中,编译阶段耗时几乎相同,表明性能提升并非源于更快的编译。
  • 在群体规模为5000时,LRC2CPP程序的推理实现了相较于WFOMC数据结构163倍的加速。
  • 通过LRC2CPP生成的C++程序进行解释执行,其运行时间与WFOMC数据结构几乎完全相同,证实解释器是性能瓶颈。
  • LRC2CPP程序的编译相比解释执行平均实现了175倍的加速,其中99.7%的总加速归因于编译,而非优化。
  • 与非优化编译相比,优化编译仅带来平均2.3倍的加速,表明其相对于编译本身的贡献极小。
  • 两种方法的推理时间复杂度完全相同,表明性能差异源于常数因子,而非渐近时间复杂度。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。