[論文レビュー] Semantics for probabilistic programming: higher-order functions, continuous distributions, and soft constraints

Sam Staton, Hongseok Yang+3 more|arXiv (Cornell University)|Jan 19, 2016

Logic, Reasoning, and Knowledge参考文献 31被引用数 40

ひとこと要約

本稿は、連続的分布とソフト制約をサポートする高階確率プログラミング言語の形式的意味論を提示する。測度論における関数空間の圏論的課題を解消するため、関手圏を用いる。計算的および意味論的意味論が健全かつ十分であり、かつ終了することが保証されており、順序モンテカルロやコンパイラ最適化などの推論アルゴリズムの形式的検証を可能にする。

ABSTRACT

We study the semantic foundation of expressive probabilistic programming languages, that support higher-order functions, continuous distributions, and soft constraints (such as Anglican, Church, and Venture). We define a metalanguage (an idealised version of Anglican) for probabilistic computation with the above features, develop both operational and denotational semantics, and prove soundness, adequacy, and termination. They involve measure theory, stochastic labelled transition systems, and functor categories, but admit intuitive computational readings, one of which views sampled random variables as dynamically allocated read-only variables. We apply our semantics to validate nontrivial equations underlying the correctness of certain compiler optimisations and inference algorithms such as sequential Monte Carlo simulation. The language enables defining probability distributions on higher-order functions, and we study their properties.

研究の動機と目的

• 高階関数、連続的分布、ソフト制約をサポートする表現力豊かな確率プログラミング言語の形式的で数学的に厳密な基盤を提供すること。
• 測度論における関数空間が標準的圏論においてはサポートされないという基礎的問題を解決すること。これは確率論における高階意味論を阻害する要因である。
• 計算的および意味論的意味論が互いに健全かつ十分であるように構築すること。これにより計算的および論理的整合性が保証される。
• 順序モンテカルロなどの推論アルゴリズムの正しさに関する形式的推論、および確率的プログラムにおけるコンパイラ最適化の形式的検証を可能にすること。

提案手法

• 高階関数、連続的分布、および `sample`、`score`、`norm` 原 primitive を用いた `norm` を通じてソフト制約をサポートする金属言語（Anglicanに基づく）を導入する。
• 可測な構成状態上の確率的ラベル付き遷移系を用いて操作的意味論をモデル化し、離散的確率的遷移を連続的ケースに拡張する。
• 可測空間上の関手圏を用いて、整合的な関数空間を構築し、可測空間がデカルト閉圏とならないという問題を克服する。
• Giry モナドを関手圏に持ち上げることで、高階設定における連続的分布および確率測度の解釈を可能にする。
• 連続的確率密度を表す密度型 `D(D)` を導入し、測度可測性を保つ評価関数と分布関数を備える。
• 操作的意味論に対して意味論的意味論が健全かつ十分であることを確立し、プログラムの同値性および正しさに関する等式的推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 測度空間が関数空間をサポートしないという事実がある中で、高階関数を確率的設定で意味的に解釈する方法は何か？
• RQ2 連続的分布とソフト制約を備えた確率的プログラムの健全かつ十分な操作的意味論とは何か？
• RQ3 関数型と連続的測度をサポートする高階確率的プログラムの意味論を圏論を用いてどのように構築できるか？
• RQ4 順序モンテカルロシミュレーションの根拠となる主要なプログラム式が、提案された意味論を用いて形式的に検証可能か？
• RQ5 完全な高階圏的道具立てを必要とせずに、確率密度に基づくソフト制約を意味論に形式的に統合する方法は何か？

主な発見

• 本稿は、関手圏を用いることで、可測空間がデカルト閉圏とならないという基礎的問題を解決し、高階確率的プログラムの意味論を形式的に構築した。
• 意味論的意味論が操作的意味論に対して健全かつ十分であることが証明されており、プログラムの同値性および正しさに関する形式的推論が可能である。
• 順序モンテカルロシミュレーションの主要な式の形式的検証が可能であり、モデル内での正しさが検証された。
• ソフト制約は密度型 `D(D)` と評価関数 `ev` を用いてエンコード可能であり、完全な高階圈权利的道具立てを必要としない。
• `norm` を通じたネストされたクエリと正規化を扱えるため、原理的かつ整合的な事後分布推論が可能である。
• 本モデルは離散的および連続的分布（例：ディラック測度 `norm(return(42.0))`）をサポートし、事後分布に連続的密度が存在しない場合の処理も可能である。