[论文解读] Conditioning in Probabilistic Programming

Friedrich Gretz, Nils Jansen+4 more|arXiv (Cornell University)|Apr 1, 2015

Formal Methods in Verification参考文献 17被引用 7

一句话总结

本文为带有条件的随机程序提出了一种最弱正规前期望（wlp）语义，将pGCL扩展以处理非终止、非确定性和观测。证明了条件前期望与马尔可夫链中的条件奖励一致，并表明对于带有条件的非确定性程序，归纳wlp语义是不可能的，确立了组合推理的根本限制。

ABSTRACT

We investigate the semantic intricacies of conditioning, a main feature in probabilistic programming. We provide a weakest (liberal) pre-condition (w(l)p) semantics for the elementary probabilistic programming language pGCL extended with conditioning. We prove that quantitative weakest (liberal) pre-conditions coincide with conditional (liberal) expected rewards in Markov chains and show that semantically conditioning is a truly conservative extension. We present two program transformations which entirely eliminate conditioning from any program and prove their correctness using the w(l)p-semantics. Finally, we show how the w(l)p-semantics can be used to determine conditional probabilities in a parametric anonymity protocol and show that an inductive w(l)p-semantics for conditioning in non-deterministic probabilistic programs cannot exist.

研究动机与目标

• 为带有非终止和非确定性的随机程序中的条件提供形式化语义。
• 将最弱正规前期望（wlp）语义扩展以处理观测和条件期望。
• 研究是否可以为带有条件的非确定性随机程序定义归纳wlp语义。
• 提出消除条件但保持语义等价的程序变换，使分析可在标准随机框架中进行。

提出的方法

• 引入奖励马尔可夫决策过程（RMDP）语义以建模操作行为，包括发散和中止的执行路径。
• 使用具有恶魔语义的非确定性选择算子，为完全随机程序定义条件最弱正规前期望（cwp*）语义。
• 提出两种程序变换，通过重写程序为不含条件的等价形式来消除observe语句，使用条件前期望。
• 使用cwp*语义计算参数化匿名协议中的条件概率。
• 通过构造一个涉及重缩放和恶魔选择的反例，证明非确定性程序无法存在归纳cwp*语义。
• 证明cwp*语义与马尔可夫链中的条件期望奖励一致，验证其正确性。

实验结果

研究问题

• RQ1 能否为带有条件的非确定性随机程序定义组合式、归纳式的wlp语义？
• RQ2 在存在非终止、中止和非确定性的情况下，条件应如何形式化解释？
• RQ3 条件前期望与马尔可夫链中条件期望奖励之间有何关系？
• RQ4 能否通过保持语义等价的变换从程序中消除条件？
• RQ5 条件对发散或中止程序的语义后果是什么？

主要发现

• 通过涉及恶魔选择和重缩放的反例，表明带有条件的非确定性随机程序无法存在归纳wlp语义。
• cwp*语义对于完全随机程序与马尔可夫链中的条件期望奖励一致，验证了其正确性。
• 所提出的程序变换在保持语义等价的前提下消除了条件，使分析可在标准随机框架中进行。
• 条件是一种保守扩展：Pobs1和Pobs2在语义上等价，即使Pobs2包含一条不可行分支。
• 语义能正确区分发散程序：Pdiv的结果为0，而Pandiv仅有一条可行但几乎必然不会发生的执行路径。
• cwp*语义通过将发散分支视为对条件期望无贡献，正确处理了中止程序。