[論文レビュー] Diffusion approximations and control variates for MCMC

Nicolas Brosse, Alain Durmus+3 more|arXiv (Cornell University)|Aug 5, 2018

Markov Chains and Monte Carlo Methods参考文献 35被引用数 14

ひとこと要約

本稿では、MCMCにおける推定量の漸近的分散を低減するための制御変数を構築する新しい手法を提案する。ラングジュアン拡散の漸近的分散を関数の族上で最小化することにより、拡散近似を活用して効果的な制御変数を設計し、MALA や RWM などの MCMC サンプラーにおける分散を顕著に低減する。理論的保証と実験的検証を併せ持つ、ベイズ推論問題への応用が示されている。

ABSTRACT

A new methodology is presented for the construction of control variates to reduce the variance of additive functionals of Markov Chain Monte Carlo (MCMC) samplers. Our control variates are definedthrough the minimization of the asymptotic variance of the Langevin diffusion over a family of functions, which can be seen as a quadratic risk minimization procedure. The use of these control variates is theoretically justified. We show that the asymptotic variances of some well-known MCMC algorithms, including the Random Walk Metropolis and the (Metropolis) Unadjusted/Adjusted Langevin Algorithm, are close to the asymptotic variance of the Langevin diffusion. Several examples of Bayesian inference problems demonstrate that the corresponding reduction in the variance is significant.

研究の動機と目的

• MCMC手法におけるモンテカルロ推定量の漸近的分散を低減すること。これは、サンプリング効率を向上させるために不可欠である。
• ラングジュアン拡散の漸近的分散を基準として、制御変数を体系的に構築するための手法を開発すること。
• 離散時間 MCMC アルゴリズムに適用可能な、ラングジュアンスデの生成子から導かれる制御変数の使用を正当化すること。
• MALA や RWM などの MCMC アルゴリズムの漸近的分散が、連続時間のラングジュアン拡散のそれと良好に近似されることを示すこと。
• 提案された制御変数が、ベイズ推論問題において顕著な分散低減をもたらすという理論的・実験的証拠を提供すること。

提案手法

• 制御変数は、特にスデの生成子の像に属する関数族上で、ラングジュアン拡散の漸近的分散を最小化することにより構築される。
• 生成子 $\mathscr{L}\varphi = -\langle \nabla U, \nabla \varphi \rangle + \Delta \varphi $ を用いて、滑らかな関数 $ g $ に対して制御関数 $ h = \mathscr{L}g $ を定義する。
• 2次リスク最小化により、制御付き推定量の漸近的分散を最小化し、$ L^2 $-意味で最適な制御変数が得られる。
• 理論的正当化として、MALA や RWM の漸近的分散が、スケーリング要因を除いてラングジュアン拡散のそれと近いことを示す。
• ベイズ推論の例を通じて、本手法の有効性を実証し、実際の応用において顕著な分散低減が達成されることを示した。
• MALA カーネルの幾何的正帰納性を保証するためのドリフト条件を、Lyapunov 関数 $ V_{\bar{\eta}}(x) = \exp(\bar{\eta} \|x\|^2) $ を用いて確立した。

実験結果

リサーチクエスチョン

• RQ1 ラングジュアン拡散の生成子から導かれる制御変数は、離散時間 MCMC サンプラーにおける漸近的分散を効果的に低減できるか？
• RQ2 MALA や RWM の漸近的分散は、連続時間のラングジュアン拡散のそれとどの程度近いか？
• RQ3 拡散近似を用いて構築された制御変数が、保証された分散低減をもたらすために満たすべき条件は何か？
• RQ4 実用的なベイズ推論設定において、この新規手法を用いることで、MCMC 推定量の漸近的分散をどの程度まで低減できるか？
• RQ5 ポテンシャル関数 $ U $ に対してどのような正則性条件が成立すれば、拡散近似が有効であり、制御変数手法が正当化されるか？

主な発見

• MALA や RWM アルゴリズムの漸近的分散が、ラングジュアン拡散のそれと近いことが示され、拡散ベースの制御変数の使用が正当化された。
• ラングジュアンスデの漸近的分散を最小化することにより導かれる本手法の制御変数は、ベイズ推論の例を通じて、MCMC 推定量における顕著な分散低減を実現した。
• 本手法は、生成子 $ \mathscr{L} $ の像上での2次リスク最小化に基づく理論的根拠を持つフレームワークを提供する。
• MALA に対して、Lyapunov 関数を用いたドリフト条件を確立し、幾何的正帰納性を証明した。これにより、拡散近似の妥当性が裏付けられた。
• 理論的分析により、制御付き推定量 $ \sigma^2_{\infty,\text{d}}(f+h) $ の漸近的分散が、元の推定量のそれ以上に上界で抑えられることを確認した。$ U $ にやや厳しい条件が課されない限り、明示的な上界が得られる。
• 実験的結果から、特に高次元設定において、制御変数による高分散成分の効果的な相殺が顕著な分散低減をもたらすことが示された。