[論文レビュー] Operator Variational Inference

Rajesh Ranganath, Jaan Altosaar+2 more|arXiv (Cornell University)|Oct 27, 2016

Gaussian Processes and Bayesian Inference参考文献 2被引用数 39

ひとこと要約

この論文は、関数の関数である演算子を用いて新しい変分目的関数を定義することで、変分推論を一般化する、Operator Variational Inference (opvi) を導入する。Langevin-Stein 演算子を用いることで、データサブサンプリングを可能にし、スケーラブルでブラックボックスな最適化が実現され、解析的に閉形式が得られない密度を必要としない柔軟な変分プログラムをサポートする。画像モデルや混合モデルにおいて、従来の KL に基づく手法に比べ、事後分布の近似精度が向上する。

ABSTRACT

Variational inference is an umbrella term for algorithms which cast Bayesian inference as optimization. Classically, variational inference uses the Kullback-Leibler divergence to define the optimization. Though this divergence has been widely used, the resultant posterior approximation can suffer from undesirable statistical properties. To address this, we reexamine variational inference from its roots as an optimization problem. We use operators, or functions of functions, to design variational objectives. As one example, we design a variational objective with a Langevin-Stein operator. We develop a black box algorithm, operator variational inference (OPVI), for optimizing any operator objective. Importantly, operators enable us to make explicit the statistical and computational tradeoffs for variational inference. We can characterize different properties of variational objectives, such as objectives that admit data subsampling---allowing inference to scale to massive data---as well as objectives that admit variational programs---a rich class of posterior approximations that does not require a tractable density. We illustrate the benefits of OPVI on a mixture model and a generative model of images.

研究の動機と目的

• 標準的な変分推論の統計的欠陥（例えば、事後分散の過小評価や退化した解）を是正するため、変分推論を演算子理論に基づく最適化問題として再考すること。
• 演算子を用いた目的関数を構築する一般枠組みを構築し、計算効率と統計的正確性の明示的トレードオフを可能にすること。
• データサブサンプリングを用いたスケーラブルな推論を可能にするとともに、標準的な KL 散発散では不可能な、豊富で非可解な事後分布近似（変分プログラム）をサポートすること。
• 演算子に基づく目的関数が計算的に実行可能で、ブラックボックス最適化に適している条件を形式的に定式化すること。
• 実世界のモデルにおいて、尤度および再構成性能の両面で、従来の KL 散発散に比べ、演算子ベースの目的関数（特に Langevin-Stein 目的関数）が優れていることを示すこと。

提案手法

• 演算子、テスト関数、距離関数を用いて定義される、一般化された変分目的関数のクラスを提案し、KL やスコアマッチングのような発散を一般化する。
• データサブサンプリングを可能にし、非可解な変分族をサポートする新しい変分目的関数として、Langevin-Stein 演算子を導入する。
• 任意の演算子ベース目的関数を解析的密度勾配を必要とせずに最適化できるブラックボックス最適化アルゴリズム opvi を開発する。
• 閉形式密度を必要としない、標準的な確率変数のニューラルネットワークベースの変換である変分プログラムを用いて、複雑で交換不能な事後分布をモデル化する。
• 演算子ベース目的関数の収束性と安定性を保証するため、テスト関数 $ f $ に有界なニューラルネットワークを採用する。
• 変分パrameterとテスト関数 $ f $ のそれぞれに別々の学習率を用いた Adam 最適化手法を適用し、変分近似と演算子目的関数の共同最適化を可能にする。

実験結果

リサーチクエスチョン

• RQ1 演算子ベースの目的関数によって、変分推論を再定式化することで、分散推定やサポートカバレッジといった統計的性質の向上が図れるか？
• RQ2 演算子ベースの目的関数は、データサブサンプリングを用いたスケーラブルな推論を実現しつつ、統計的正確性を維持できるか？
• RQ3 演算子ベースの目的関数は、従来の KL に基づく変分推論では不可能な、柔軟で非可解な変分族（例：変分プログラム）をサポートできるか？
• RQ4 Langevin-Stein 演算子は、実世界のモデルにおける予測性能の観点から、KL 散発散に比べて優れた事後分布近似を提供するか？
• RQ5 演算子ベース目的関数が計算的に実行可能かつ統計的に妥当であるために必要な条件は何か？

主な発見

• 変分プログラムを用いた Langevin-Stein (ls) 目的関数は、完成した MNIST 画像における対数尤度が -58.9 と最高を記録し、KL を用いた平均場ガウス分布（-59.3）および ls を用いた平均場ガウス分布（-75.3）を上回った。
• モデルパラメータは KL で訓練されていたが、変分プログラムを用いた ls ベースの推論は優れた再構成性能を達成しており、事後分布近似の質の向上を示している。
• ls 目的関数はデータサブサンプリングをサポートしており、大規模データセットにおけるスケーラブルな最適化を可能にし、これは標準的な KL に基づく変分推論には自然には存在しない特性である。
• 閉形式密度を必要としない変分プログラム（ニューラルネットワークベースの変換）は、演算子目的関数と効果的に組み合わせられるが、従来の KL に基づく変分推論では不可能である。
• 演算子フレームワークは、計算効率と統計的正確性のトレードオフを形式的に定式化し、新しい変分目的関数の原理的設計を可能にする。
• このフレームワークは、任意の演算子ベース目的関数のブラックボックス最適化を可能にし、多様なモデルや推論タスクに広く適用可能である。