[論文レビュー] Note on Interacting Langevin Diffusions: Gradient Structure and Ensemble Kalman Sampler by Garbuno-Inigo, Hoffmann, Li and Stuart

Nikolas Nüsken, Sebastian Reich|arXiv (Cornell University)|Aug 28, 2019

Markov Chains and Monte Carlo Methods参考文献 3被引用数 12

ひとこと要約

本稿は、ガルビューノ＝イニゴら（2019）が提案したベイジアンサンプリング用の相互作用型ランジュバン拡散モデルを、ターゲット事後分布からの正確なサンプリングを保証するためのドリフト項における欠落補正項を同定することで是正する。修正された力学系は勾配フロー構造を保ち、有限粒子系においてターゲット測度の不変性を保証する。これは、経験的共分散が非特異で、かつ事後分布がバクリ–エーメリー基準を満たす場合に成立する。

ABSTRACT

An interacting system of Langevin dynamics driven particles has been proposed for sampling from a given posterior density by Garbuno-Inigo, Hoffmann, Li and Stuart in Interacting Langevin Diffusions: Gradient Structure and Ensemble Kalman Sampler (arXiv:1903:08866v2). The proposed formulation is primarily studied from a formal mean-field limit perspective, while the theoretical behaviour under a finite particle size is left as an open problem. In this note we demonstrate that the particle-based covariance interaction term requires a non-trivial correction. We also show that the corrected dynamics samples exactly from the desired posterior provided that the empirical covariance matrix of the particle system remains non-singular and the posterior log-density satisfies the standard Bakry-Emery criterion.

研究の動機と目的

• ガルビューノ＝イニゴら（2019）が提案した相互作用型ランジュバン拡散モデルのドリフト項に存在する欠陥を同定し、有限粒子数下でもターゲット事後分布を正確に保存しない問題を是正すること。
• 是正されたダイナミクスが、連合粒子密度に対して勾配フロー構造を有することを確立し、長時間にわたる均衡状態への収束を保証すること。
• 標準的な正則性条件のもとで、是正された系が有限粒子数に対しても詳細つり合いとターゲット測度の不変性を維持することを示すこと。
• エンsemblesカルマンサンプラー（EKS）を有限粒子系で使用する理論的根拠を、背後にある力学的不整合性を解消することで提供すること。
• 数値的安定性と理論的保証を向上させるために、正則化戦略や代替形式（例：1つを除いた共分散推定）を検討すること。

提案手法

• 有限粒子相互作用スデ系のフォッカー–プランク方程式を導出し、拡散行列 $ S(U) $ の非ゼロ発散が詳細つり合いを破ることを特定する。
• ターゲット測度 $ \pi(U) = \prod_{j=1}^J \pi^*(u^{(j)}) $ の不変性を回復させるために、ドリフトに補正項 $ \frac{d+1}{J}(u^{(j)} - \bar{u}) $ を導入する。
• 是正されたスデ系 $ \dot{U} = S(U)\nabla\ln\pi(U) + \frac{d+1}{J}(U - \bar{U}) + \sqrt{2S(U)}\dot{\mathbf{W}} $ が、連合密度 $ \mu $ とターゲット $ \pi $ 間のカルバック・ライブラー発散に対する勾配フローを誘導することを示す。
• 正則化として $ C_\alpha(U) = \alpha C_0 + (1-\alpha)C(U) $ を提案し、共分散行列の正定値性を維持し、指数的収束を保証する。
• 代替形式として、1つを除いた共分散行列 $ C_{[j]}(U) $ を用いる手法を検討し、拡散行列における自己依存性を排除し、補正項の必要性を回避する。
• バクリ–エーメリー基準のもとで均衡への理論的収束を確立し、ポテンシャル関数の凸性仮定を緩和するための摂動的議論を提示する。

実験結果

リサーチクエスチョン

• RQ1 なぜ元の相互作用型ランジュバンダイナミクスは、有限粒子系においてターゲット事後分布からの正確なサンプリングに失敗するのか？
• RQ2 有限粒子系において詳細つり合いとターゲット測度の不変性を回復させるために必要な補正項は何か？
• RQ3 是正されたダイナミクスは、平均場極限で観察された勾配フロー構造を保持するか？
• RQ4 標準的条件下で、是正された有限粒子系が均衡への指数的収束を保証できるか？
• RQ5 1つを除いた共分散推定などの代替形式は、理論的整合性と計算コストの観点から、どのように比較されるか？

主な発見

• 元の相互作用型ランジュバンダイナミクス（1）は、拡散行列の非ゼロ発散により、ターゲット事後分布測度に関して不変でない。これは余分なドリフトを生じさせる。
• 補正項 $ \frac{d+1}{J}(u^{(j)} - \bar{u}) $ の追加により、詳細つり合いが回復され、製品測度 $ \pi(U) $ が是正されたスデ（21）のもとで不変であることが保証される。
• 是正されたダイナミクスは、カルバック・ライブラー発散に対する勾配フロー構造を誘導し、エネルギー汎関数 $ V(\mu) = \int \mu(U) \{ \ln\mu(U) - \ln\pi(U) \} dU $ を介して均衡への収束を保証する。
• 数値実験により、元のダイナミクスは事後分散を低く見積もることが判明した。1次元ガウスターゲットに対しては $ \sigma^2 \approx \frac{J-2}{J}b^2 $ となり、$ J $ が小さい場合に体系的なバイアスが生じる。
• 正則化 $ C_\alpha(U) $ を用いることで、バクリ–エーメリー基準のもとで、均衡への指数的収束が保証され、平均場結果が有限粒子に拡張される。
• 1つを除いた形式（27）は、共分散行列が $ j $ 番目の粒子に依存しないため、補正項の必要性を排除するが、計算コストが高くなる。