[論文レビュー] On the Convergence of Stochastic Variational Inference in Bayesian Networks

Ulrich Paquet|arXiv (Cornell University)|Jul 16, 2015

Gaussian Processes and Bayesian Inference参考文献 6被引用数 8

ひとこと要約

本稿は、ベイジアンネットワークにおける確率的変分ベイズ推論（SVI）の収束問題を調査し、標準的なステップサイズスケジュールがノイズの多い非自然勾配推定により発散を引き起こす可能性があることを示している。特に、バイリニアモデル（例：ベイジアン行列分解）におけるグローバルパラメータの成分別更新において、初期ステップサイズを小さく保つことが安定収束に不可欠であることを実証している。

ABSTRACT

We highlight a pitfall when applying stochastic variational inference to general Bayesian networks. For global random variables approximated by an exponential family distribution, natural gradient steps, commonly starting from a unit length step size, are averaged to convergence. This useful insight into the scaling of initial step sizes is lost when the approximation factorizes across a general Bayesian network, and care must be taken to ensure practical convergence. We experimentally investigate how much of the baby (well-scaled steps) is thrown out with the bath water (exact gradients).

研究の動機と目的

• 一般のベイジアンネットワークに因子分解された変分近似を適用した場合の確率的変分ベイズ推論における収束失敗の特定と分析を目的とする。
• グローバルパラメータがネットワーク要因ごとに分解されると、自然勾配スケーリングの利点が失われ、最適化が不安定化することを強調することを目的とする。
• ノイズの多い勾配推定とステップサイズ選択が、レコメンデーションシステムで用いられるような大規模モデルにおける実用的収束に与える影響を調査することを目的とする。
• 正確な勾配情報の喪失にもかかわらず、適切にスケーリングされたノイズあり勾配によっても、良好にスケーリングされた更新の安定性を回復できるかどうかを評価することを目的とする。
• 特に高次元設定（例：行列分解）における実世界のベイジアンネットワークへのSVIの導入に役立つ実証的ガイダンスを提供することを目的とする。

提案手法

• ベイジアンネットワークにおける変分パラメータを更新するために、ノイズありの成分別自然勾配推定を用いる確率的変分ベイズ推論アルゴリズム（Alg. 1）を提案する。
• 計算コストを削減するために、ネットワーク内のランダムな子ノード（C）サブセットに基づいて各変分パラメータの更新を行う確率的近似スキームを採用する。
• 収束を保証するため、ρt → 0、∑ρt = ∞、∑ρt² < ∞ を満たす時変化ステップサイズスケジュール ρt を用いる。
• 2つの更新オプションを導入する：(a) 要因ごとのパラメータ平均の定期的平均化、および (b) Hoffman らの手法に従う標準的なSVI更新。両者とも自然パラメータに適用される。
• バイリニアモデルにおけるガウス変分近似のための確率的自然勾配更新を導出する。この際、共親（co-parents）と十分統計量を明示的に考慮する。
• 観測されたレーティングの期待値の確率的推定を用いて、Netflixデータセットにおけるベイジアン行列分解に本手法を適用する。因子分解ガウス近似を用いる。

実験結果

リサーチクエスチョン

• RQ1 なぜ標準的な確率的変分ベイズ推論は、共役指数型分布族ではうまく機能するが、一般のベイジアンネットワークでは収束に失敗するのか？
• RQ2 変分パラメータがネットワークの各コンポonentに分解されると、自然勾配スケーリングの損失が収束にどのように影響するのか？
• RQ3 SVIで単位長さのステップサイズを使用する場合、勾配推定の分散が発散を引き起こす役割は何か？
• RQ4 一般のベイジアンネットワークにおけるSVIで、小さな初期ステップサイズが収束安定性を回復できるか。また、収束速度とのトレードオフは何か？
• RQ5 信頼性のある推論のために正確な勾配が必要なのか、それとも適切にスケーリングされたノイズあり勾配でも安定した結果が得られるのか？

主な発見

• 単位長さのステップサイズ（ρt = 1）を用いた標準的なSVIは、高分散の勾配推定のため、一般のベイジアンネットワークで数値的発散を引き起こす。
• C（1回の更新で使用する子ノード数）が小さい場合、Alg. 1の両方の更新オプション（a）と（b）は、ρt ∈ (0,1] を使用すると、特に行列分解のようなバイリニアモデルで発散する。
• 十分に小さな初期ステップサイズを用いることで収束が回復される：C = 1 の場合、オプション（a）では ρ₁ = 1/512、オプション（b）では ρ₁ = 1/64 が必要である。
• グローバルな確率的勾配は自然形式ではないため、減衰するステップサイズでさえも不安定性を増幅させ、過剰に更新を起こす。
• 実証的結果から、全VB（ρt = 1）は暗黙的に安定なステップサイズを用いているが、これは確率的設定に適切にスケーリングされなければそのまま適用できない。
• 本研究の結論として、小さなステップサイズは発散を緩和するが、その代償として有用な勾配情報の損失が生じ、最適なステップサイズ選択の問題は未解決のまま残っている。