[論文レビュー] Bayesian Posterior Sampling via Stochastic Gradient Fisher Scoring

Sungjin Ahn, Anoop Korattikara+1 more|UvA-DARE (University of Amsterdam)|Jun 27, 2012

Markov Chains and Monte Carlo Methods参考文献 11被引用数 114

ひとこと要約

本稿では、ミニバッチのデータのみを用いて事後分布からのサンプルを効率的に生成するための、確率的勾配フィッシャー・スコアリング（SGFS）というベイズ的事後分布サンプリング手法を提案する。ベイズ中心極限定理を活用することで、高速な混合率（正規近似からのサンプリング）における高速な混合と、低速な混合率における前処理を用いた収束の改善を実現し、バーンイン段階では効率的な最適化手法としても機能する。

ABSTRACT

In this paper we address the following question: Can we approximately sample from a Bayesian posterior distribution if we are only allowed to touch a small mini-batch of data-items for every sample we generate?. An algorithm based on the Langevin equation with stochastic gradients (SGLD) was previously proposed to solve this, but its mixing rate was slow. By leveraging the Bayesian Central Limit Theorem, we extend the SGLD algorithm so that at high mixing rates it will sample from a normal approximation of the posterior, while for slow mixing rates it will mimic the behavior of SGLD with a pre-conditioner matrix. As a bonus, the proposed algorithm is reminiscent of Fisher scoring (with stochastic gradients) and as such an efficient optimizer during burn-in.

研究の動機と目的

• 1回のサンプルで利用可能なデータがミニバッチのみである場合のベイズ的事後分布からのサンプリングの課題に対処すること。
• 混合率が遅いために問題を引き起こす、確率的勾配ランジュヴィアンダイナミクス（SGLD）の改善。
• ベイズ中心極限定理を活用し、混合速度に応じてサンプリング行動を適応的に変更すること。
• バーンイン段階で効果的な最適化と効率的な事後分布サンプリングを両立する手法の設計。
• 収束性とサンプリング効率を向上させるために、フィッシャー・スコアリングの確率的勾配版を開発すること。

提案手法

• 1. 小さなデータバッチのみを用いて事後分布を近似する確率的勾配に基づくアルゴリズムを提案する。
• 2. ベイズ中心極限定理を統合し、動的にサンプリング行動を調整：高速な混合率では正規近似、低速な混合率ではSGLDに類似したダイナミクスを採用する。
• 3. フィッシャー情報量から導出される前処理行列を用いて、混合性と収束速度を向上させる。
• 4. 更新則を確率的勾配フィッシャー・スコアリングステップとして定式化し、勾配上昇と曲率情報の両方を統合する。
• 5. バーンイン段階では、フィッシャー・スコアリングを模倣することで、効率的な最適化として機能する。
• 6. 全データ計算を避けてミニバッチ勾配に依存することで、計算効率を維持する。

実験結果

リサーチクエスチョン

• RQ1 1. 1回のサンプルでミニバッチのデータしかアクセスできない状況において、効率的なベイズ的事後分布サンプリングを達成できるか？
• RQ2 2. SGLDのような確率的勾配ベースの事後分布サンプラーの混合率をどのように改善できるか？
• RQ3 3. ベイズ中心極限定理を活用して、混合速度に応じてサンプリング行動を適応的に変更できるか？
• RQ4 4. フィッシャー・スコアリングの確率的勾配版は、収束性とサンプリング効率を向上させるか？
• RQ5 5. 同じアルゴリズムがバーンイン段階でサンプラーとしても最適化手法としても機能できるか？

主な発見

• 1. 提案された確率的勾配フィッシャー・スコアリング（SGFS）アルゴリズムは、事後分布の曲率に適応することで、標準的なSGLDに比べてより高速な混合率を達成する。
• 2. 高速な混合率では、事後分布の正規近似からのサンプリングにより、迅速な探索が可能になる。
• 3. 低速な混合率では、前処理を施したSGLDに類似したダイナミクスを再現し、収束性の向上とランダムウォーク行動の低減を実現する。
• 4. フィッシャー・スコアリングを模倣する更新則のおかげで、バーンイン段階では効率的な最適化として機能する。
• 5. 全データ計算を避けてミニバッチ勾配に依存することで、計算効率を維持する。
• 6. 実験的結果では、ベースラインのSGLDに比べてサンプリング効率が向上し、事後分布推定の収束が速くなることが示された。