[論文レビュー] Stochastic Quasi-Newton Langevin Monte Carlo

Umut Şimşekli, Roland Badeau+2 more|arXiv (Cornell University)|Feb 10, 2016

Markov Chains and Monte Carlo Methods参考文献 43被引用数 15

ひとこと要約

本稿では、限界記憶BFGS更新を用いて逆ヘシアンを近似することで、ベイズ推論におけるサンプリング効率を向上させる、確率的準ニュートンランゲビン・モンテカルロ手法であるHessian Approximated MCMC (HAMCMC)を提案する。局所的な曲率情報を線形時間および記憶量の複雑さで組み込むことで、合成的および実世界の行列分解タスクにおいて、SGLD、PSGLD、DSGLDよりも高速な収束を達成し、漸近的一貫性と低い計算オーバーヘッドを維持する。

ABSTRACT

Recently, Stochastic Gradient Markov Chain Monte Carlo (SG-MCMC) methods have been proposed for scaling up Monte Carlo computations to large data problems. Whilst these approaches have proven useful in many applications, vanilla SG-MCMC might suffer from poor mixing rates when random variables exhibit strong couplings under the target densities or big scale differences. In this study, we propose a novel SG-MCMC method that takes the local geometry into account by using ideas from Quasi-Newton optimization methods. These second order methods directly approximate the inverse Hessian by using a limited history of samples and their gradients. Our method uses dense approximations of the inverse Hessian while keeping the time and memory complexities linear with the dimension of the problem. We provide a formal theoretical analysis where we show that the proposed method is asymptotically unbiased and consistent with the posterior expectations. We illustrate the effectiveness of the approach on both synthetic and real datasets. Our experiments on two challenging applications show that our method achieves fast convergence rates similar to Riemannian approaches while at the same time having low computational requirements similar to diagonal preconditioning approaches.

研究の動機と目的

• 目的の事後分布に次元間の強い相関やスケール差がある場合に、通常の確率的勾配MCMC (SG-MCMC) における混合率の悪さを是正すること。
• リーマン的アプローチ（例：SGRLD）の高い計算コストを回避しつつ、事後分布の局所的な幾何的構造を捉えるスケーラブルなMCMC手法を開発すること。
• 対角プレコンディショニング（例：PSGLD）の効率性と、準ニュートン更新によるフルヘシアンベースのプレコンディショニングの精度を統合すること。
• 高次元設定において線形時間および記憶量の複雑さを維持しながら、漸近的一致性および不偏性を保証すること。

提案手法

• 本手法は、限界記憶のサンプルおよびその確率的勾配の履歴を用いて、負の対数事後分布の逆ヘシアンを近似する確率的準ニュートンフレームワークを用いる。
• Mをメモリサイズ、Dを次元とするとき、時間および記憶量の複雑さがO(MD)であるL-BFGSアルゴリズムを用いて、密なヘシアン近似を維持する。
• サンプリングはヘシアン近似をランゲヴィン拡散SDEのドリフト項に統合し、局所的な曲率を反映させる。
• 形式的なフォッカー・プランク方程式の解析から導出され、真の事後分布に対して漸近的一致性を保証する。
• データパーティショニングとメッセージパッシングプロトコルを用いて分散環境に拡張され、次元に線形な通信複雑さを有する。
• 期待されるフィッシャー情報行列の解析的計算を回避することで、より広範なモデルクラスへの適用が可能になる。

実験結果

リサーチクエスチョン

• RQ1 準ニュートンに基づくヘシアン近似は、リーマン的アプローチの計算コストを増大させることなく、SG-MCMCにおける混合率の向上をもたらすか？
• RQ2 密なヘシアン近似は、高次元かつ相関のある事後分布において、対角プレコンディショニングよりも速い収束をもたらすか？
• RQ3 提案手法は、線形時間および記憶量の複雑さを維持しながら、漸近的一致性および不偏性を保つことができるか？
• RQ4 分散環境において、HAMCMCは既存のスケーラブルなMCMC手法と比較してどのように性能を発揮するか？

主な発見

• MovieLens 1Mデータセットにおいて、HAMCMCはDSGLDおよびPSGLDよりも高速に収束し、同等の計算コストで低いテストRMSEを達成した。
• 分散行列分解において、HAMCMCはPSGLDおよびDSGLDよりも高速に収束したが、線形通信複雑さを維持した。
• 本手法は漸近的に一貫性があり、不偏であるが、PSGLDは恒常的なバイアスを生じる補正項を無視しているため、そうではない。
• SGRLD（リーマン的手法）に近い性能を達成したが、効率的なヘシアン近似のおかげではるかに低い計算オーバーヘッドを有した。
• L-BFGSの使用により、O(MD)の複雑さで密な曲率近似が可能となり、高次元問題へのスケーラビリティが実現された。
• 実験により、HAMCMCが事後分布における強い相関およびスケール差を効果的に処理でき、等方的および対角プレコンディショニング手法を上回ることを確認した。