[論文レビュー] Proving Expected Sensitivity of Probabilistic Programs

Gilles Barthe, Thomas Espitau+3 more|arXiv (Cornell University)|Aug 8, 2017

Bayesian Modeling and Causal Inference被引用数 11

ひとこと要約

この論文は、期待値カップリングを用いて平均的動作を形式的に検証するため、確率的プログラムのプログラム感度の一般化として期待 f-感度を導入する。また、アルゴリズムの安定性やマルコフ連鎖における高速混合といった性質を構成的証明可能にするための関係的プログラム論理 eRHL を提示する。

ABSTRACT

Program sensitivity, also known as Lipschitz continuity, describes how small changes in a program's input lead to bounded changes in the output. We propose an average notion of program sensitivity for probabilistic programs---expected sensitivity---that averages a distance function over a probabilistic coupling of two output distributions from two similar inputs. By varying the distance, expected sensitivity recovers useful notions of probabilistic function sensitivity, including stability of machine learning algorithms and convergence of Markov chains. Furthermore, expected sensitivity satisfies clean compositional properties and is amenable to formal verification. We develop a relational program logic called $\mathbb{E}$pRHL for proving expected sensitivity properties. Our logic features two key ideas. First, relational pre-conditions and post-conditions are expressed using distances, a real-valued generalization of typical boolean-valued (relational) assertions. Second, judgments are interpreted in terms of expectation coupling, a novel, quantitative generalization of probabilistic couplings which supports compositional reasoning. We demonstrate our logic on examples beyond the reach of prior relational logics. Our main example formalizes uniform stability of the stochastic gradient method. Furthermore, we prove rapid mixing for a probabilistic model of population dynamics. We also extend our logic with a transitivity principle for expectation couplings to capture the path coupling proof technique by Bubley and Dyer, and formalize rapid mixing of the Glauber dynamics from statistical physics.

研究の動機と目的

• 確率的出力を扱うために古典的感度を一般化し、確率的プログラムの平均的感度の概念を形式化すること。
• 期待値や確率的性質の構成的検証に関して、従来の関係的論理の限界を克服すること。
• 収束性、安定性、混合性の検証を定量的関係的推論を用いて支援するプログラム論理の開発。
• 確率的勾配法の均一安定性や集団ダイナミクスにおける高速混合といった複雑な性質の構成的検証を可能にすること。
• 統計物理学におけるパスカップリングのような高度な証明技法を、確率的検証のための形式的論理枠組みに内蔵すること。

提案手法

• 入力距離の関数 f によって、類似した入力からの出力間の期待距離が有界である、期待 f-感度を提案する。
• 期待値の距離に関する定量的一般化として、期待値カップリングを導入し、距離の期待値に関する推論を可能にする。
• 前件と後件を真の論理式ではなく実数値の距離で表現する、関係的プログラム論理 eRHL を設計する。
• 期待値カップリングに基づく新しい判断意味論を採用し、関係的期待値の構成的検証を支援する。
• 統計物理学におけるパスカップリング技法を形式化するための期待値カップリングの推移性原理を導入する。
• 非自明な性質、例えば確率的勾配降下法の均一安定性や統計物理学における Glauber 動的の高速混合性の検証に論理を適用する。

実験結果

リサーチクエスチョン

• RQ1 古典的プログラム感度は、確率的プログラムにおける平均的出力動作を推論するため、どのように一般化できるか？
• RQ2 確率的プログラムにおける期待値に基づく関係的性質の構成的検証を支援する論理的枠組みは何か？
• RQ3 パスカップリングのような高度な証明技法は、確率的検証のための形式的プログラム論理内に内蔵可能か？
• RQ4 期待値カップリングは、マルコフ連鎖や機械学習アルゴリズムのような確率的システムにおける収束性と安定性の検証にどのように利用できるか？
• RQ5 真の論理式ではなく実数値の距離を用いる関係的プログラム論理における、基礎的および実用的利点は何か？

主な発見

• 期待 f-感度は機械学習におけるアルゴリズム的安定性を捉えており、モデル出力の期待差が入力距離の関数によって有界であることを示している。
• 論理 eRHL は、従来の関係的論理では到達不可能だった確率的勾配法の均一安定性を成功裏に検証した。
• パスカップリング技法は eRHL の規則として形式化され、統計物理学における Glauber 動的の高速混合性を直接検証可能となった。
• 期待値カップリングは洗練された構成的推論を可能にし、複雑な確率的性質のモジュラー検証を可能にした。
• 関係的期待値と高度な証明原理を内蔵することで、apRHL や製品プログラム解析といった先行手法を一般化・改善した。
• 本アプローチにより、集団ダイナミクスやマルコフ連鎖の確率的モデルにおける収束性と感度の形式的検証が可能となった。