[論文レビュー] Proximal Markov chain Monte Carlo algorithms

Marcelo Pereyra|arXiv (Cornell University)|Jun 2, 2013

Markov Chains and Monte Carlo Methods参考文献 29被引用数 9

ひとこと要約

本稿では、凸解析と近接写像を用いて、高次元で対数凸かつ非微分可能である事後分布から効率的にサンプリングする新しいMCMC手法、Proximal Metropolis-adjusted Langevin Algorithm (P-MALA) を提案する。勾配に基づく更新を、Moreau–Yoshida正則化から導かれる近接作用素に置き換えることで、P-MALAは非滑らかなターゲットにおいても幾何的エルゴード性とロバストな安定性を達成し、標準MALAが失敗する状況でも有効である。

ABSTRACT

This paper presents a new Metropolis-adjusted Langevin algorithm (MALA) that uses convex analysis to simulate efficiently from high-dimensional densities that are log-concave, a class of probability distributions that is widely used in modern high-dimensional statistics and data analysis. The method is based on a new first-order approximation for Langevin diffusions that exploits log-concavity to construct Markov chains with favourable convergence properties. This approximation is closely related to Moreau-Yoshida regularisations for convex functions and uses proximity mappings instead of gradient mappings to approximate the continuous-time process. The proposed method complements existing MALA methods in two ways. First, the method is shown to have very robust stability properties and to converge geometrically for many target densities for which other MALA are not geometric, or only if the step size is sufficiently small. Second, the method can be applied to high-dimensional target densities that are not continuously differentiable, a class of distributions that is increasingly used in image processing and machine learning and that is beyond the scope of existing MALA and HMC algorithms. To use this method it is necessary to compute or to approximate efficiently the proximity mappings of the logarithm of the target density. For several popular models, including many Bayesian models used in modern signal and image processing and machine learning, this can be achieved with convex optimisation algorithms and with approximations based on proximal splitting techniques, which can be implemented in parallel. The proposed method is demonstrated on two challenging high-dimensional and non-differentiable models related to image resolution enhancement and low-rank matrix estimation that are not well addressed by existing MCMC methodology.

研究の動機と目的

• 信号処理や画像処理に一般的に見られる高次元で非微分可能なモデルにおけるベイズ推論の課題に対処すること。
• ターゲット密度の連続的微分可能性を要件とする標準MALAおよびHMC手法の限界を克服すること。
• 勾配が利用不可または不安定な状況においても、対数凸ターゲットに対して幾何的収束を維持するロバストなMCMCアルゴリズムの開発。
• 全変動、核ノルム、ラプラスノルムなどの非滑らかな事前分布を有するモデルにおける効率的サンプリングの実現。
• 現在の勾配ベース手法の範囲を超えて、凸的で高次元の統計的モデルにおける一般化MCMCサンプリングのフレームワークの構築。

提案手法

• ラングジュアン拡散のSDEダイナミクスを近似するために勾配の代わりに近接写像を用いる、近接未調整ランジュアンアルゴリズム（P-ULA）を提案する。
• 凸共役双対性に基づき、Moreau–Yoshida正則化を用いて連続時間拡散過程の一次近似を構築する。
• 近接提案分布をメトロポリス・ハスティングスの受容棄却ステップで補正することで、ターゲット分布に正確に定常となるメトロポリス調整版（P-MALA）を導入する。
• （例：L1ノルム、核ノルム、凸集合の指示関数など）対数密度の近接作用素の効率的計算に依存し、高次元におけるスケーラビリティを実現する。
• 前向き・後ろ向き、ADMMに類似したスキームを含む近接スプリッティング技法を用いて、並列計算が可能な近接写像の計算を実施する。
• 標準MCMCが失敗する非滑らかで高次元のモデル、例えば画像スーパーエンヘンスケーリングや低ランク行列推定に本手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 非微分可能で高次元かつ対数凸な事後分布に対して、近接作用素を用いて安定で幾何的エルゴード性を有するMCMCサンプラーを構築可能か？
• RQ2 非滑らかなターゲットにおいて、P-MALAの収束性と混合時間は、標準MALAやHMCと比べてどのように異なるか？
• RQ3 P-MALAは、全変動や核ノルム正則化のような非微分可能な事前分布を有するモデルから効果的にサンプリング可能か？
• RQ4 高次元MCMCにおいて、勾配写像と比較して近接写像を用いることの理論的・計算的利点は何か？
• RQ5 P-MALAは、正定値コーンやノルム球などの複雑な制約、あるいは階層的ハイパーパrameterを有するモデルへどの程度拡張可能か？

主な発見

• P-MALAは、標準MALAが失敗するか、不切な小さなステップサイズを要する非微分可能かつ対数凸なターゲット密度の広いクラスにおいて、幾何的エルゴード性を達成する。
• Laplace、全変動、核ノルムペナルティなどの非滑らかな事前分布を有する高次元モデルに対しても、ロバストな安定性と収束性を示す。
• P-MALAは、既存のMCMC手法がうまく対処できない2つの挑戦的応用、画像分解能向上と低ランク行列推定から、効果的にサンプリングに成功した。
• 近接写像フレームワークにより、近接スプリッティングを含む凸最適化アルゴリズムを用いた効率的提案計算が可能となり、並列化も可能である。
• P-MALAの混合時間は、標準MALAやランダムウォークとは異なり、ターゲット密度の尾部挙動に依存するため、ターゲット分布の形状に敏感であることが示唆された。
• 本手法は階層モデルと互換性があり、高次元逆問題における実験的ベイズ推定や信用領域の計算への応用も可能である。