[論文レビュー] Fractional Langevin Monte Carlo: Exploring Lévy Driven Stochastic Differential Equations for Markov Chain Monte Carlo

Umut Şimşekli|arXiv (Cornell University)|Jun 12, 2017

Bayesian Methods and Mixture Models参考文献 4被引用数 13

ひとこと要約

本稿では、重み付きのブラウン運動に代えて$α$-安定なレヴィ過程を用いることで、重い尾を持つジャンプ・ディファージョンダイナミクスを可能にする、新しいマークフ・チェーン・モンテカルロ手法である分数ランジュバン・モンテカルロ（FLMC）を提案する。レヴィ駆動のSDEを活用することで、多モーダル分布においてより速い収束と優れた性能を達成し、実験ではステップサイズの選択に対するロバスト性と大規模ベイジアンモデルにおけるサンプリング効率の向上が示された。

ABSTRACT

Along with the recent advances in scalable Markov Chain Monte Carlo methods, sampling techniques that are based on Langevin diffusions have started receiving increasing attention. These so called Langevin Monte Carlo (LMC) methods are based on diffusions driven by a Brownian motion, which gives rise to Gaussian proposal distributions in the resulting algorithms. Even though these approaches have proven successful in many applications, their performance can be limited by the light-tailed nature of the Gaussian proposals. In this study, we extend classical LMC and develop a novel Fractional LMC (FLMC) framework that is based on a family of heavy-tailed distributions, called $α$-stable Lévy distributions. As opposed to classical approaches, the proposed approach can possess large jumps while targeting the correct distribution, which would be beneficial for efficient exploration of the state space. We develop novel computational methods that can scale up to large-scale problems and we provide formal convergence analysis of the proposed scheme. Our experiments support our theory: FLMC can provide superior performance in multi-modal settings, improved convergence rates, and robustness to algorithm parameters.

研究の動機と目的

• 従来のランジュバン・モンテカルロ（LMC）手法が軽い尾を持つガウス型の提案に依存しており、多モーダルまたは高次元のターゲット分布では困難をきたすという限界を克服すること。
• 重い尾を持つレヴィ過程が大規模なステートスペースの探索を可能にする可能性に着目し、MCMCにおけるレヴィ駆動の確率微分方程式（SDE）の利用を検討すること。
• 非ガウス的でジャンプを伴うダイナミクスであるが、正しいターゲット分布のサンプリングを維持できる理論的裏付けが整った、スケーラブルな計算フレームワーク「分数LMC（FLMC）」を構築すること。
• 標準的なLMCやSGLDと比較して、収束速度、ロバスト性、複雑な事後分布における性能の面で、FLMCの実証的優位性を示すとともに、形式的な収束解析を提供すること。

提案手法

• 標準的なブラウン運動の代わりに$α$-安定なレヴィ過程に基づく新しいSDEフレームワークを提案し、従来のランジュバンSDEの拡散項をレヴィ過程に置き換えることで、重い尾を持ち、不連続なサンプルパスを実現する。
• FLMCアルゴリズムを、レヴィ駆動SDEの離散時間におけるオイラー＝マルヤム型近似として導出する。ステップサイズを調整することで収束性と安定性を確保する。
• ミニバッチ勾配と確率的近似を用いることで大規模データセットにスケーリング可能な、新しい計算手法「確率的勾配FLA（SG-FLA）」を導入し、理論的収束保証を維持する。
• ポテンシャルエネルギー関数$U$に関するやや弱い正則性条件の下で、FLMCスキームが正しい未正規化事後分布$π(X) \propto \exp(-U(X))$をターゲットにすることを形式的に証明する。
• 高次元における効率的なレヴィ増分のシミュレーションを実現するため、$α$-安定分布の特性関数に基づく、拒否なしのサンプリング戦略を導入する。
• 収束を保証するため、時間とともに減少するステップサイズスケジュール$\eta_n$を採用し、実験的チューニングによりジャンプサイズと混合効率のバランスを取る安定性パラメータ$\alpha \in (0,2]$を調整する。

実験結果

リサーチクエスチョン

• RQ1 重い尾を持つ増分を伴うレヴィ駆動SDEは、ガウスノイズを用いる古典的LMCと比較して、多モーダル事後分布におけるサンプリング効率を向上させ得るか？
• RQ2 $α$-安定なレヴィ過程に起因するジャンプが存在するにもかかわらず、提案されたFLMCフレームワークは正しいターゲット分布のサンプリングを維持できるか？
• RQ3 ステップサイズなどのハイパーパrameter選択に対するロバスト性および収束速度の面で、FLMCは標準的なSGLDやULAと比較してどのように性能を発揮するか？
• RQ4 大規模ベイジアン推論タスクにおいて、より速い収束とより良い一般化性能を達成するための最適な安定性パラメータ$\alpha$の範囲は何か？

主な発見

• 多モーダル事後分布において、$\alpha=2$の標準的SGLDと比較して、FLMCは著しく速い収束レートを達成しており、特に$\alpha$を1.3〜1.6に低下させた場合に顕著である。
• MovieLensデータセット（ML-1M, ML-10M, ML-20M）における行列分解タスクでは、$\alpha=1.3$のSG-FLAがSGLDよりも低い平均二乗誤差（RMSE）を達成し、$\alpha$を2.0から1.3に低下させることで収束性が向上した。
• MNISTにおけるシグモイド信念ネットワークでは、$\alpha=1.6$のSG-FLAが、ステップサイズを増加させても安定したテストログ尤度を維持したのに対し、SGLDの性能は急激に劣化した。これにより、優れたロバスト性が示された。
• $\alpha < 1.3$になると、過度に大きなジャンプがサンプリングを不安定化させるため、性能が劣化する。これは、探索性と安定性のトレードオフを示している。
• 提案されたSG-FLA手法は、最大2000万件のレーティングを含む大規模問題に対しても効果的にスケーリング可能であり、実世界のベイジアン機械学習におけるレヴィ駆動MCMCの実現可能性を示している。
• 理論的解析により、$U$のやや弱い正則性条件の下で、FLMCが正しい事後分布をターゲットにすることを確認した。非ガウス的ノイズが存在するにもかかわらず、この手法の正しさが裏付けられた。