[論文レビュー] Nonreversible Langevin Samplers: Splitting Schemes, Analysis and Implementation

A. Duncan, Grigorios A. Pavliotis+1 more|arXiv (Cornell University)|Jan 16, 2017

Markov Chains and Monte Carlo Methods参考文献 45被引用数 15

ひとこと要約

本稿では、非可逆拡散を可逆および非可逆成分に分解するためのLie-Trotter分割スキームを用いた非可逆Langevinサンプラーを提案する。この手法により、混合性が著しく向上し、漸近的分散が低減される。本手法は幾何的エルゴード性を保証し、バイアスを制御し、ロジスティック回帰や空間モデルを含む低次元および高次元問題において、標準的なMCMCを上回る収束性と効率性を示す。

ABSTRACT

For a given target density, there exist an infinite number of diffusion processes which are ergodic with respect to this density. As observed in a number of papers, samplers based on nonreversible diffusion processes can significantly outperform their reversible counterparts both in terms of asymptotic variance and rate of convergence to equilibrium. In this paper, we take advantage of this in order to construct efficient sampling algorithms based on the Lie-Trotter decomposition of a nonreversible diffusion process into reversible and nonreversible components. We show that samplers based on this scheme can significantly outperform standard MCMC methods, at the cost of introducing some controlled bias. In particular, we prove that numerical integrators constructed according to this decomposition are geometrically ergodic and characterise fully their asymptotic bias and variance, showing that the sampler inherits the good mixing properties of the underlying nonreversible diffusion. This is illustrated further with a number of numerical examples ranging from highly correlated low dimensional distributions, to logistic regression problems in high dimensions as well as inference for spatial models with many latent variables.

研究の動機と目的

• 可逆な手法に比べて混合性と収束性に優れる非可逆拡散過程を活用することで、効率的なMCMCサンプリング手法の開発を目的とする。
• 非可逆Itô型SDEのLie-Trotter分割に基づく数値積分子の構築を目的とし、それらが元の拡散過程の良好なエルゴード的性質を保つようにする。
• 得られるサンプラーの漸近的バイアスおよび分散を特徴づけ、精度と効率の間の制御されたトレードオフを保証することを目的とする。
• 特に高次元のロジスティック回帰や潜在変数を含む空間モデルのような困難な問題において、提案手法の実用的優位性を示すこと。

提案手法

• 非可逆Itô型SDEをLie-Trotter分割スキームを用いて可逆および非可逆成分に分解し、安定的かつ効率的な数値統合を可能にする。
• SDEの無限小生成作用素を分析することで、幾何的エルゴード性を保証するとともに、推定器の漸近的分散およびバイアスの上限を導出する。
• 分割スキームを応用して、非可逆拡散過程の高速混合性を引き継ぐ数値サンプラーを構築する。
• Pinskerの不等式およびGirsanovの定理を用いて、数値的および正確な遷移核間の全 Variation 距離を上限で抑え、収束を保証する。
• 遷移核近似の誤差に関する境界を含み、小刻みな $\Delta t$ に対して全 Variation で $\mathcal{O}(\Delta t^{1/2})$ の収束率を示す。
• 本手法は多様な問題に実装・テストされ、高相関の事後分布、ロジスティック回帰、潜在変数を含む空間モデルが含まれる。

実験結果

リサーチクエスチョン

• RQ1 Lie-Trotter分割を用いて構築された非可逆Langevinサンプラーは、標準的な可逆MCMC手法に比べ、収束が速く、漸近的分散が小さいか？
• RQ2 分割スキームは、サンプラーの幾何的エルゴード性および長期的挙動にどのように影響を与えるか？
• RQ3 非可逆成分の定量的影響は、推定器の漸近的分散およびバイアスにどのように現れるか？
• RQ4 本手法は、高次元および高相関の事後分布においても、効率性と安定性を維持できるか？
• RQ5 理論的境界と実世界の統計モデルにおける実測性能の間には、どのような差異があるか？

主な発見

• Lie-Trotter分割に基づく非可逆Langevinサンプラーは幾何的エルゴード性を有し、標本分布への確率的収束を保証する。
• 可逆サンプラーに比べ、推定器の漸近的分散が低減されており、モンテカルロ推定の収束が速くなる。
• 数値的および正確な遷移核間の全 Variation 距離において、$\mathcal{O}(\Delta t^{1/2})$ の制御されたバイアスが生じる。
• 数値実験では、特に高次元のロジスティック回帰や潜在変数を含む空間モデルにおいて、混合性および収束速度の顕著な向上が観察された。
• 理論的分析により、サンプラーが元の非可逆拡散過程の優れた混合性を引き継ぐことが確認され、非可逆ドリフト $\gamma(x)$ の最適選択により分散低減が達成可能である。
• パス測度において $\mathcal{O}(\Delta t)$ のバイアス、遷移核において $\mathcal{O}(\Delta t^{1/2})$ のバイアスを達成し、小さなステップサイズで安定的かつ正確なサンプリングを保証する。