[論文レビュー] Accelerating Langevin Sampling with Birth-death

Yulong Lu, Jianfeng Lu+1 more|arXiv (Cornell University)|May 23, 2019

Markov Chains and Monte Carlo Methods参考文献 43被引用数 19

ひとこと要約

本稿では、過減衰ランジュバン力学に非局所的誕生・死滅項を追加することで、多重モード分布における混合性能を向上させる、誕生・死滅加速ランジュバンサンプリング手法を提案する。この手法は、 Wasserstein-Fisher-Rao 距離に関して勾配流構造を持つことにより、ポテンシャル障壁に依存しない漸近的収束レートを達成する。これは、標準的なランジュバン力学とは異なり、解析的例と数値実験により検証されている。

ABSTRACT

A fundamental problem in Bayesian inference and statistical machine learning is to efficiently sample from multimodal distributions. Due to metastability, multimodal distributions are difficult to sample using standard Markov chain Monte Carlo methods. We propose a new sampling algorithm based on a birth-death mechanism to accelerate the mixing of Langevin diffusion. Our algorithm is motivated by its mean field partial differential equation (PDE), which is a Fokker-Planck equation supplemented by a nonlocal birth-death term. This PDE can be viewed as a gradient flow of the Kullback-Leibler divergence with respect to the Wasserstein-Fisher-Rao metric. We prove that under some assumptions the asymptotic convergence rate of the nonlocal PDE is independent of the potential barrier, in contrast to the exponential dependence in the case of the Langevin diffusion. We illustrate the efficiency of the birth-death accelerated Langevin method through several analytical examples and numerical experiments.

研究の動機と目的

• 標準的な MCMC 法におけるメタ安定性に起因する多重モード分布における混合の遅さという課題に対処すること。
• 過減衰ランジュバン力学における収束レートがポテンシャル障壁に指数関数的に依存するのを克服すること。
• 低確率領域を通過せずにモード間でのグローバルな質量移動を可能にする、新たなサンプリングダイナミクスの開発。
• Wasserstein-Fisher-Rao 距離に関して、KL 発散の勾配流としてのダイナミクスとその理論的基盤の確立。
• 相互作用粒子を用いた解析的例と数値実装を通じて、サンプリング効率の向上を実証すること。

提案手法

• 標準的な過減衰ランジュバン Fokker-Planck 方程式に非局所的誕生・死滅項を導入し、グローバルな質量再分配を可能にする。
• Kullback-Leibler 発散の Wasserstein-Fisher-Rao 距離に関する勾配流としてダイナミクスを定式化する。
• 粒子ベースの実装において、非リプシッツ勾配に対してもエルゴード性を保証するため、tamed Euler-Maruyama スキームを用いる。
• 粒子が相対的なターゲット密度重みに基づいてランジュバン拡散と誕生・死滅遷移の両方を経験する、実用的な相互作用粒子系を実装する。
• 制約付きパrameter（例：重みや精度）に対して反射境界を適用し、サンプリング中の妥当性を維持する。
• 混合重みの厳密な単体制約を緩和することで、サンプリング効率を向上させつつ、近似平衡精度を保持する。

実験結果

リサーチクエスチョン

• RQ1 標準的なランジュバン力学と比較して、誕生・死滅機構が多重モード分布における混合を顕著に加速できるか。
• RQ2 提案されたダイナミクスの漸近的収束レートが、標準的なランジュバン拡散とは異なりポテンシャル障壁に依存しないか。
• RQ3 提案されたサンプリングダイナミクスの背後にある幾何的構造は何か。また、情報理論的発散とどのように関係するか。
• RQ4 ベイジアンガウス混合モデルのような高次元で複雑な事後分布において、この手法はどのように性能を発揮するか。
• RQ5 非滑らかまたは制約付きターゲット密度下でも、粒子ベースの実装が安定性と正確性を維持できるか。

主な発見

• 誕生・死滅加速ランジュバンダイナミクスの漸近的収束レートは、ポテンシャル障壁に依存しない。これは、標準的な過減衰ランジュバン力学の指数的遅れ混合とは対照的である。
• このダイナミクスは、Wasserstein-Fisher-Rao 距離に関して KL 発散の勾配流である。これにより、加速メカニズムに幾何的解釈が与えられる。
• 解析的例における数値実験では、未調整ランジュエルアルゴリズム（ULA）と比較して、混合時間に顕著な高速化が確認された。
• ベイジアンガウス混合モデル（例3）において、BDLS は平均および分散の推定においてより速い収束を達成しており、対数-対数プロットにおける平均二乗誤差の急激な減少によって示された。
• 混合重みの緩和された制約（0 ≤ w_k ≤ 1）の実装は、平衡近傍でサンプリング精度を維持しており、実際には粒子が境界内に留まっている。
• tamed ULA スキームにより、対数密度勾配が非リプシッツである場合でもエルゴード性が保証され、粒子ダイナミクスの安定化が達成された。