[論文レビュー] Conditioning in Probabilistic Programming

Friedrich Gretz, Nils Jansen+4 more|arXiv (Cornell University)|Apr 1, 2015

Formal Methods in Verification参考文献 17被引用数 7

ひとこと要約

本稿では、非終了性、非決定性、観測を扱えるように拡張した、条件付き確率的プログラムの最弱liberal前期待値（wlp）意味論を提示する。条件付き前期待値がマーカフ連鎖における条件付き報酬と一致することを証明し、非決定的プログラムにおける帰納的wlp意味論が不可能であることを示し、構成的推論における根本的な制限を確立する。

ABSTRACT

We investigate the semantic intricacies of conditioning, a main feature in probabilistic programming. We provide a weakest (liberal) pre-condition (w(l)p) semantics for the elementary probabilistic programming language pGCL extended with conditioning. We prove that quantitative weakest (liberal) pre-conditions coincide with conditional (liberal) expected rewards in Markov chains and show that semantically conditioning is a truly conservative extension. We present two program transformations which entirely eliminate conditioning from any program and prove their correctness using the w(l)p-semantics. Finally, we show how the w(l)p-semantics can be used to determine conditional probabilities in a parametric anonymity protocol and show that an inductive w(l)p-semantics for conditioning in non-deterministic probabilistic programs cannot exist.

研究の動機と目的

• 非終了性および非決定性の存在下でも、条件付き処理の形式的意味論を提供すること。
• 観測および条件付き期待値を扱えるように、最弱liberal前期待値（wlp）意味論を拡張すること。
• 非決定的確率的プログラムにおける帰納的wlp意味論が定義可能かどうかを調査すること。
• 条件付き処理を除去する変換を提示し、それによって標準的な確率的フレームワークでの解析が可能になるようにすること。

提案手法

• 発展的挙動（発散する実行や中止する実行を含む）をモデル化するため、報酬マーカフ意思決定過程（RMDP）意味論を導入する。
• 悪意ある意味論を持つ非決定的選択演算子を用いて、完全に確率的なプログラムにおける条件付き最弱liberal前期待値（cwp*）意味論を定義する。
• 観測文を除去する2つのプログラム変換を提案し、それらを条件付き前期待値を用いて、条件付きのない同等のプログラムに再書き換えする。
• cwp*意味論を用いて、パラメトリック匿名プロトコルにおける条件付き確率を計算する。
• 悪意ある選択とスケーリングを含む反例を構築することで、非決定的プログラムに対して帰納的cwp*意味論が存在しないことを証明する。
• cwp*意味論がマーカフ連鎖における条件付き期待報酬と一致することを確立し、その正しさを検証する。

実験結果

リサーチクエスチョン

• RQ1 非決定的確率的プログラムにおける条件付き処理に対して、構成的で帰納的なwlp意味論を定義可能か？
• RQ2 非終了性、中止、非決定性の存在下で、条件付き処理をどのように形式的に解釈すべきか？
• RQ3 マーカフ連鎖における条件付き前期待値と条件付き期待報酬の関係は何か？
• RQ4 条件付き処理を、意味的同値性を保存する変換によってプログラムから除去可能か？
• RQ5 発散するか中止するプログラムにおける条件付き処理の意味的結果は何か？

主な発見

• 悪意ある選択とスケーリングを含む反例により、非決定的確率的プログラムにおける帰納的wlp意味論は存在しないことが示された。
• 完全に確率的なプログラムにおけるcwp*意味論は、マーカフ連鎖における条件付き期待報酬と一致し、その正しさが検証された。
• 提示されたプログラム変換により、条件付き処理が除去されつつ意味的同値性が保存され、標準的な確率的フレームワークでの解析が可能になった。
• 条件付き処理は保守的拡張である：Pobs1とPobs2は、Pobs2に到達不能な分岐を含んでも、意味的に同値である。
• 発散するプログラムを正しく区別する：Pdivは結果0を出力するが、Pandivは1つの到達可能ではあるがほとんど確実に発生しない実行を持つ。
• cwp*意味論は、発散する分岐が条件付き期待値に寄与しないものとして扱うことで、中止するプログラムを正しく処理する。