[論文レビュー] Variational Bayesian Inference with Stochastic Search

John Paisley, David M. Blei+1 more|arXiv (Cornell University)|Jun 27, 2012

Bayesian Methods and Mixture Models被引用数 271

ひとこと要約

本稿では、勾配の分散を低減するための制御変数を用いた確率的探索を用いて、変分下界を直接最大化することで、確率的最適化アプローチを導入し、変分ベイズ推論を提案する。この手法により、閉形式積分や追加の下界に依存せずに、ロジスティック回帰やHDP近似のような非共役モデルにおける効率的な推論が可能になる。

ABSTRACT

Mean-field variational inference is a method for approximate Bayesian posterior inference. It approximates a full posterior distribution with a factorized set of distributions by max-imizing a lower bound on the marginal likeli-hood. This requires the ability to integrate a sum of terms in the log joint likelihood using this factorized distribution. Often not all in-tegrals are in closed form, which is typically handled by using a lower bound. We present an alternative algorithm based on stochastic optimization that allows for direct optimiza-tion of the variational lower bound. This method uses control variates to reduce the variance of the stochastic search gradient, in which existing lower bounds can play an im-portant role. We demonstrate the approach on two non-conjugate models: logistic regres-sion and an approximation to the HDP. 1.

研究の動機と目的

• 積分が計算不能であるという問題に起因する平均場変分ベイズ推論の課題に対処する。これは、しばしば近似や下界の導入を必要とする。
• 閉形式積分を必要としないように、変分下界を直接最適化するための手法を開発する。
• ロジスティック回帰や階層ディリクレ過程のような複雑な非共役モデルにおける、効率的かつスケーラブルなベイズ推論を可能にする。
• 勾配の分散を低減するために制御変数を用いることで、最適化の収束性と安定性を向上させる。
• 既存の下界を、確率的探索フレームワークの性能を向上させるための補助的ツールとして統合する。

提案手法

• 変分ベイズ推論問題を、変分パラメータに関する確率的最適化問題として定式化する。
• モンテカルロサンプリングを用いて、変分下界の勾配を推定することで、閉形式積分を必要とせずに最適化を可能にする。
• 勾配推定器の分散を低減するために制御変数を適用し、収束速度と安定性を向上させる。
• 既存の下界を、制御変数の構築を支援または改善するための補助的ツールとして活用する。
• 分散低減を伴う確率的勾配上昇法により、繰り返し変分パラメータを更新する。
• 標準的な平均場法が、不確実な項による計算不能性のために失敗する、ロジスティック回帰やHDP近似のような非共役モデルにこの手法を統合する。

実験結果

リサーチクエスチョン

• RQ1 分散低減を伴う確率的最適化は、非共役モデルにおける変分ベイズ推論に効果的に適用可能か？
• RQ2 制御変数の使用は、確率的変分ベイズ推論の収束性と精度をどのように向上させるか？
• RQ3 既存の下界は、変分ベイズ推論における確率的探索の性能向上にどの程度活用可能か？
• RQ4 本手法は、複雑なモデルにおいて、従来の平均場変分ベイズ推論と比較して、スケーラビリティと精度の点で優れているか？
• RQ5 本手法は、ロジスティック回帰やHDP近似のような実世界の非共役モデルに、実際に成功裏に適用可能か？

主な発見

• 提案された確率的最適化フレームワークにより、閉形式積分を必要とせず、変分下界の直接最大化が可能になった。
• 制御変数の使用により、勾配の分散が顕著に低減され、最適化中の収束速度と安定性が向上した。
• ロジスティック回帰およびHDP近似タスクにおいて、競争力ある推論精度を達成し、非共役設定下で標準的な平均場アプローチを上回った。
• 既存の下界は、勾配推定および最適化性能の向上を図るための確率的探索フレームワークに効果的に統合可能である。
• 従来の変分手法が不確実な期待値の計算不能性のために失敗する複雑なモデルにおけるベイズ推論において、本手法はスケーラビリティと実用性を示した。