[論文レビュー] Local Expectation Gradients for Doubly Stochastic Variational Inference

Michalis K. Titsias|arXiv (Cornell University)|Mar 4, 2015

Gaussian Processes and Bayesian Inference参考文献 12被引用数 6

ひとこと要約

この論文は、局所的に関連性の高い潜在変数について解析的に周辺化することで、制御変数を必要とせず、ラオ＝ブラックウェル化された推定を達成する低分散の確率的変分ベイズ推論手法であるLocal Expectation Gradients (LEG) を提案する。この手法により、連続的および離散的潜在変数の両方に対して、並列化可能で効率的な最適化が可能となり、標準的な対数微分法および再パラメータ化ベースラインと比較して安定性と収束性に優れる。

ABSTRACT

We introduce local expectation gradients which is a general purpose stochastic variational inference algorithm for constructing stochastic gradients through sampling from the variational distribution. This algorithm divides the problem of estimating the stochastic gradients over multiple variational parameters into smaller sub-tasks so that each sub-task exploits intelligently the information coming from the most relevant part of the variational distribution. This is achieved by performing an exact expectation over the single random variable that mostly correlates with the variational parameter of interest resulting in a Rao-Blackwellized estimate that has low variance and can work efficiently for both continuous and discrete random variables. Furthermore, the proposed algorithm has interesting similarities with Gibbs sampling but at the same time, unlike Gibbs sampling, it can be trivially parallelized.

研究の動機と目的

• 二重に確率的である変分ベイズ推論における高分散勾配の問題を、特に離散的潜在変数を含む非共役モデルに対して解決すること。
• 対数微分法に基づく手法に依存する複雑な制御変数の必要性を排除すること。制御変数は構築が難しく、モデル固有のものであるため。
• 連続的および離散的潜在変数の両方へ適用可能な汎用的で低分散の勾配推定技術を開発すること。
• 因子化された変分分布における局所的条件付き独立性を活用することで、効率的かつ並列化可能な最適化を可能とすること。
• 混合離散連続構造を持つモデル（例：シグモイド信念ネットワーク）における収束の安定性と性能を向上させること。

提案手法

• 各変分パラメータごとに勾配推定を部分的タスクに分解し、関心のパラメータと最も相関の高い潜在変数に焦点を当てる。
• 各変分パラメータ $\mathbf{v}_k$ に対して、関連する潜在変数 $x_k$ について正確な期待値を計算し、残りの変数はサンプリングする。
• これにより、標準的な対数微分推定器と比較して顕著に分散が低いラオ＝ブラックウェル化された勾配推定が得られる。
• このアプローチは連続的および離散的潜在変数の両方へ適用可能であり、再パラメータ化や制御変数の必要性を回避する。
• アルゴリズムはギブスサンプリングに類似しているが、ギブスサンプリングとは異なり、並列化が容易である。
• 各 $\mathbf{v}_k$ の勾配は、シグモイド型変分分布とモデル尤度の閉形式表現を用いて算出され、式 (19) に示す。

実験結果

リサーチクエスチョン

• RQ1 制御変数に依存せずに、低分散の確率的勾配を構築することは可能か？
• RQ2 因子化された変分分布における局所的条件付き独立性を活用することで、分散低減が達成可能か？
• RQ3 提案手法は、既存の対数微分法および再パラメータ化に基づくアプローチと比較して、収束の安定性と速度において優れているか？
• RQ4 離散的および連続的潜在変数の両方で、低分散を維持しつつ効率的な並列化が可能か？
• RQ5 シグモイド信念ネットワークのような複雑なモデル、特に混合離散連続潜在構造を持つモデルにおいて、本手法はどのように性能を発揮するか？

主な発見

• Local Expectation Gradients 法は、特に連続空間において、最先端の再パラメータ化トリックを上回る低分散の確率的勾配を生成する。
• LdGrad が高分散と頻繁な局所最適解への収束に苦しんでいたのと比較し、本手法はより速く安定した収束を達成する。
• K=200 個の隠れユニットを用いた二値化MNISTデータセットにおける実験では、高品質な再構成と安定した学習ダイナミクスが得られた。
• 本手法により、1回のデータポイントあたりの1回の推論プロセスで、識別（変分）パラメータと生成（モデル）パラメータの両方の最適化が効率的に行える。
• 本手法はさまざまなモデルアーキテクチャに対して頑健であり、問題固有の分散低減技術を必要としない。
• アルゴリズムの構造のおかげで、ギブスサンプリングとは異なり、並列化が容易であり、大規模モデルへのスケーラビリティを有する。