[論文レビュー] Efficient stochastic optimisation by unadjusted Langevin Monte Carlo. Application to maximum marginal likelihood and empirical Bayesian estimation

Valentin De Bortoli, Alain Durmus+2 more|arXiv (Cornell University)|Jun 28, 2019

Blind Source Separation Techniques被引用数 4

ひとこと要約

本稿では、尤度が解析的に扱えない高次元モデルにおける、最大マージナル尤度推定と経験ベイズ推定のための効率的で新しい手法である Stochastic Optimisation via Unadjusted Langevin (SOUL) を提案する。従来の確率的近似（SA）におけるMCMCカーネルに、未調整ランジュヴィアンアルゴリズムを導入することで、SOULは幾何的エルゴドニシティを保証し、明示的な収束保証を提供する。これにより、尤度が不変な複雑なモデルにおいても、スケーラブルで理論的裏付けのある最適化が可能になる。

ABSTRACT

Stochastic approximation methods play a central role in maximum likelihood estimation problems involving intractable likelihood functions, such as marginal likelihoods arising in problems with missing or incomplete data, and in parametric empirical Bayesian estimation. Combined with Markov chain Monte Carlo algorithms, these stochastic optimisation methods have been successfully applied to a wide range of problems in science and industry. However, this strategy scales poorly to large problems because of methodological and theoretical difficulties related to using high-dimensional Markov chain Monte Carlo algorithms within a stochastic approximation scheme. This paper proposes to address these difficulties by using unadjusted Langevin algorithms to construct the stochastic approximation. This leads to a highly efficient stochastic optimisation methodology with favourable convergence properties that can be quantified explicitly and easily checked. The proposed methodology is demonstrated with three experiments, including a challenging application to high-dimensional statistical audio analysis and a sparse Bayesian logistic regression with random effects problem.

研究の動機と目的

• 尤度が不変な高次元問題における、既存の確率的近似（SA）手法のスケーラビリティの制限を解消すること。
• 特に幾何的エルゴドニシティとキャリブレーションの難しさに起因する、高次元MCMCカーネルをSAスキームに組み込む上での理論的・手法的課題を克服すること。
• 未調整ランジュヴィアンアルゴリズムを活用することで、収束性と計算効率が向上する、スケーラブルで理論的裏付けのあるSAフレームワークを構築すること。
• 音声解析やランダム効果を伴うスparserベイズ的ロジスティック回帰といった、高次元問題における手法の有効性を実証すること。

提案手法

• 最大マージナル尤度推定のためのSAスキームにおいて、従来のMCMC手法に代えて未調整ランジュヴィアンMCMCカーネルを導入する。
• メトロポリス補正を伴わないスキームと比較して、幾何的エルゴドニシティの条件が容易に検証可能で、キャリブレーションが簡素化される未調整ランジュヴィアンアルゴリズムを活用する。
• 最適化問題を、勾配が未調整ランジュヴィアンサンプリングにより近似された正則化付き対数尤度関数の最大化問題として定式化する。
• ランジュヴィアンカーネルの均一なドリフト条件およびミニマライゼーション条件を仮定することで、弱い条件下での理論的収束を確立し、SA反復の安定性と収束性を保証する。
• ランジュヴィアンカーネルの幾何的エルゴドニシティを定量化するためのリャプノフ関数 $ V $ を導入し、パラメータおよびステップサイズの変化に対するマルコフ遷移カーネルの感度に関する明示的バウンドを導出する。
• 異なるパラメータおよびステップサイズにおける遷移カーネル間のカルバック・ライブララー距離のバウンドを用いて、SA反復の収束速度に関する理論的保証を提供する。

実験結果

リサーチクエスチョン

• RQ1 未調整ランジュヴィアンMCMCカーネルは、確率的近似フレームワーク内での使用により、高次元モデルにおけるスケーラブルな最適化を実現できるか？
• RQ2 確率的近似の文脈において、未調整ランジュヴィアンカーネルの幾何的エルゴドニシティと安定性を保証する理論的条件は何か？
• RQ3 標準的なメトロポリス補正付きMCMCカーネルを用いたSAスキームと比較して、提案手法SOULの収束特性はどのように異なるか？
• RQ4 SOUL手法は、高次元設定において、明示的かつ検証可能な理論的バウンドを伴って信頼性高く収束するか？
• RQ5 音声解析やランダム効果を伴うスパースベイズ的ロジスティック回帰といった、挑戦的な高次元問題において、SOULの実効的性能はいかがなものか？

主な発見

• 提案手法SOULは、ポテンシャル関数にやや弱い正則性条件が課せられる条件下で、ランジュヴィアンカーネルの幾何的エルゴドニシティを達成し、安定的かつ効率的なサンプリングを可能にする。
• 遷移カーネル間のカルバック・ライブララー距離に関する明示的理論的バウンドを導出し、カーネルがパラメータおよびステップサイズの変化に対して制御可能であり、ステップサイズに従って減少することを示した。
• 標準的な仮定のもとで、SA反復が真の最大マージナル尤度解に収束することが保証され、収束速度は明示的に定量化可能である。
• 数値実験により、SOULが高次元設定において標準的なSA手法を上回ることを示した。具体的には、1000次元の音声解析タスクおよびランダム効果を伴うスパースベイズ的ロジスティック回帰の両方で有効性が確認された。
• 理論的分析により、未調整ランジュヴィアンカーネルが一様なミニマライゼーションおよびドリフト条件を満たすことが確認され、幾何的エルゴドニシティと収束性を確立する上で中心的な役割を果たすことが分かった。
• この手法は高次元パrameter空間に対して頑健であり、SAにおけるメトロポリス補正付きMCMCのキャリブレーション難易度を回避する。