[論文レビュー] Verification of deep probabilistic models

Krishnamurthy Dvijotham, Marta Garnelo+2 more|arXiv (Cornell University)|Dec 6, 2018

Adversarial Robustness in Machine Learning参考文献 8被引用数 13

ひとこと要約

本論文は、ニューラルプロセスや変分オートエンコーダーなどの深層確率的モデルに対して、潜在変数のサンプリングにおいてすべての条件付き入力で線形制約を高確率に満たすことを保証する、新しい検証フレームワークを提案する。凸双対性と誤差関数による確率的境界を活用することで、遵守確率の厳密な下界を効率的に計算し、関数回帰タスクにおける単調性や凸性といった期待される性質の検証に成功する。

ABSTRACT

Probabilistic models are a critical part of the modern deep learning toolbox - ranging from generative models (VAEs, GANs), sequence to sequence models used in machine translation and speech processing to models over functional spaces (conditional neural processes, neural processes). Given the size and complexity of these models, safely deploying them in applications requires the development of tools to analyze their behavior rigorously and provide some guarantees that these models are consistent with a list of desirable properties or specifications. For example, a machine translation model should produce semantically equivalent outputs for innocuous changes in the input to the model. A functional regression model that is learning a distribution over monotonic functions should predict a larger value at a larger input. Verification of these properties requires a new framework that goes beyond notions of verification studied in deterministic feedforward networks, since requiring worst-case guarantees in probabilistic models is likely to produce conservative or vacuous results. We propose a novel formulation of verification for deep probabilistic models that take in conditioning inputs and sample latent variables in the course of producing an output: We require that the output of the model satisfies a linear constraint with high probability over the sampling of latent variables and for every choice of conditioning input to the model. We show that rigorous lower bounds on the probability that the constraint is satisfied can be obtained efficiently. Experiments with neural processes show that several properties of interest while modeling functional spaces can be modeled within this framework (monotonicity, convexity) and verified efficiently using our algorithms

研究の動機と目的

• 潜在変数のサンプリングにおいて、すべての入力で望ましい性質を高確率に満たすような、深層確率的モデルの形式的検証フレームワークの開発。
• 最悪ケース検証の限界を克服し、確率的モデルではしばしば空虚または過剰に慎重な結果をもたらす問題に対処する。
• ニューラルプロセスや条件付きVAEなどのモデルにおいて、単調性、凸性、意味的不変性といった性質の効率的かつスケーラブルな検証を可能にする。
• 潜在変数の確率的変動が存在する場合でも、モデル出力が線形制約を満たす確率の計算可能な下界を提供する。

提案手法

• すべての条件付き入力 x ∈ X に対して、cᵀf(x,z) + d ≥ 0 である確率が ε 以下であることを保証する検証を定式化する。すなわち、P(cᵀf(x,z) + d ≥ 0) ≤ ε である。
• 凸双対性を用いて、線形形式 cᵀf(x,z) + d を上から抑える双対関数 G(λ, z) を導出する。これにより確率的緩和が可能になる。
• 弱双対性を適用し、違反確率を P(G(λ, z) ≥ 0) + P(z ∉ [α, β]) で上界で抑え、[α, β] を潜在空間の有界領域とする。
• z がガウス分布に従うことに基づき、補完誤差関数（erfc）を用いて P(G(λ, z) ≥ 0) を閉形式で表現する。
• 双対変数 λ および境界 α, β を勾配降下法で最適化し、β = α + η² とパラメータ化することで非制約最適化を可能にする。
• 非標準正規分布の潜在変数を扱うために再パラメトリゼーションを用い、標準正規分布に変換する。

実験結果

リサーチクエスチョン

• RQ1 深層確率的モデルが、すべての条件付き入力で線形制約を高確率に満たすことを検証できるか？
• RQ2 モデル出力が与えられた仕様（例：単調性や凸性）を満たす確率の下界を、どのように効率的に計算できるか？
• RQ3 提案されたフレームワークは、ニューラルプロセスのような関数回帰モデルに適用可能であり、予測関数の構造的性質を検証できるか？
• RQ4 潜在変数がガウス分布からサンプリングされる場合でも、実際の応用において空虚でなく、過剰に保守的でない境界が得られるか？

主な発見

• 検証フレームワークは、高次元の潜在空間においても、モデル出力が線形制約を満たす確率の非空虚で厳密な下界を効率的に計算できた。
• 累積分布関数に学習させたニューラルプロセスに対して、予測出力がターゲット入力区間全体で [0,1] の範囲内に収まる確率が 0.99 以上であることを検証した。
• 予測値の上界と下界が入力 δ とともに単調に増加し、ドメイン全体で期待される CDF の挙動を確認した。
• λ, α, β に対する勾配降下法による確率的境界の最適化は、問題が非凸であっても実用的に効率的に収束した。
• この手法により、ニューラルプロセスが単調性や有界性といった既知の関数的性質に整合した出力を生成することを検証できた。