[论文解读] Guaranteed Bounds for Posterior Inference in Universal Probabilistic Programming

Raven Beutner, C.-H. Luke Ong+1 more|arXiv (Cornell University)|Apr 6, 2022

Machine Learning and Algorithms被引用 4

一句话总结

本文提出了一种基于区间化追踪语义和权重感知区间类型系统的可靠且完备的方法，用于计算通用概率编程语言中后验分布的保证下界和上界。该方法确保真实后验分布始终位于这些边界之间，从而实现对 Pyro 和 Anglican 等随机推理工具的验证，并通过原型工具 GuBPI 在具有连续分布的递归、高阶模型上展示了实际应用价值。

ABSTRACT

We propose a new method to approximate the posterior distribution of probabilistic programs by means of computing guaranteed bounds. The starting point of our work is an interval-based trace semantics for a recursive, higher-order probabilistic programming language with continuous distributions. Taking the form of (super-/subadditive) measures, these lower/upper bounds are non-stochastic and provably correct: using the semantics, we prove that the actual posterior of a given program is sandwiched between the lower and upper bounds (soundness); moreover the bounds converge to the posterior (completeness). As a practical and sound approximation, we introduce a weight-aware interval type system, which automatically infers interval bounds on not just the return value but also weight of program executions, simultaneously. We have built a tool implementation, called GuBPI, which automatically computes these posterior lower/upper bounds. Our evaluation on examples from the literature shows that the bounds are useful, and can even be used to recognise wrong outputs from stochastic posterior inference procedures.

研究动机与目标

• 解决通用概率编程语言中随机后验推理缺乏正确性保证的问题。
• 为具有连续分布的递归、高阶程序提供后验分布的可靠且完备的边界。
• 实现对现有推理工具（如 HMC 和重要性采样）输出错误的自动化检测。
• 设计一种同时推断返回值和执行权重边界的类型系统，以提升精度。
• 实现并评估一个工具（GuBPI），以高效且可靠地计算这些边界。

提出的方法

• 使用基于区间的追踪语义形式化定义一个具有连续分布的递归、高阶概率语言。
• 将下界和上界定义为超加性和次加性度量，夹在真实后验分布之间，确保可靠性。
• 引入一种权重感知区间类型系统，通过基于约束的推理追踪返回值和执行权重的边界。
• 采用符号执行技术在程序追踪中传播区间边界，实现对后验分布的静态分析。
• 使用区间算术在不采样的情况下对概率追踪执行安全、保守的计算。
• 实现 GuBPI 工具，自动计算并验证基准模型上的后验边界。

实验结果

研究问题

• RQ1 我们能否形式化定义并计算通用概率程序后验分布的保证下界和上界？
• RQ2 如何确保无论程序复杂度如何，真实后验分布始终被包含在这些边界之内？
• RQ3 所提出的类型系统能否同时推断返回值和执行权重的边界以提升精度？
• RQ4 这些边界在多大程度上能够检测出 HMC 或重要性采样等现有随机推理工具中的错误？
• RQ5 该方法在处理具有连续分布的递归和高阶模型时，其可扩展性如何？

主要发现

• 所提出的基于区间的追踪语义确保了可靠性：真实后验分布始终被计算出的下界和上界所包围。
• 实现了完备性：随着细化程度提高，边界收敛至真实后验分布。
• 权重感知区间类型系统实现了对返回值和执行权重边界精确且自动的推断。
• GuBPI 在行人示例中成功检测出 Pyro 的 HMC 和 Anglican 的重要性采样输出错误，其结果存在显著差异。
• 基于模拟的校准验证表明，HMC 遗漏了后验模态，而 GuBPI 的边界保持正确且可验证。
• GuBPI 在行人示例等模型上的运行时间优于基于模拟的校准方法，同时提供形式化保证。