[論文レビュー] Sparse MCMC gpc Finite Element Methods for Bayesian Inverse Problems

Viêt Hà Hòang, Christoph Schwab+1 more|arXiv (Cornell University)|Jul 10, 2012

Markov Chains and Monte Carlo Methods被引用数 3

ひとこと要約

この論文は、不確実係数を伴う楕円型PDEのベイズ逆問題における計算複雑性を低減するため、スパース一般化パラメトリッククラウド（gpc）およびマルチレベルMCMC（MLMCMC）手法を提案する。スパースgpc代理モデルとマルチレベルサンプリングを組み合わせることで、係数および近似手法の正則性条件下で、標準的なMCMCに比べて著しく複雑性が低減された漸近的作業-精度バインディングを達成する。

ABSTRACT

We study Bayesian inversion for a model elliptic PDE with unknown diffusion coefficient. We provide complexity analyses of several Markov Chain-Monte Carlo (MCMC) methods for the efficient numerical evaluation of expectations under the Bayesian posterior distribution, given data $\delta$. Particular attention is given to bounds on the overall work required to achieve a prescribed error level $\varepsilon$. Specifically, we first bound the computational complexity of plain MCMC, based on combining MCMC sampling with linear complexity multilevel solvers for elliptic PDE. Our (new) work versus accuracy bounds show that the complexity of this approach can be quite prohibitive. Two strategies for reducing the computational complexity are then proposed and analyzed: first, a sparse, parametric and deterministic generalized polynomial chaos (gpc) surrogate representation of the forward response map of the PDE over the entire parameter space, and, second, a novel Multi-Level Markov Chain Monte Carlo (MLMCMC) strategy which utilizes sampling from a multilevel discretization of the posterior and of the forward PDE. For both of these strategies we derive asymptotic bounds on work versus accuracy, and hence asymptotic bounds on the computational complexity of the algorithms. In particular we provide sufficient conditions on the regularity of the unknown coefficients of the PDE, and on the approximation methods used, in order for the accelerations of MCMC resulting from these strategies to lead to complexity reductions over plain MCMC algorithms for Bayesian inversion of PDEs.}

研究の動機と目的

• 不確実な拡散係数を伴う楕円型PDEのベイズ逆問題における、標準的MCMC手法の高い計算コストを低減すること。
• PDEの線形複雑性を持つマルチレベルソルバーを組み合わせた際の、シンプルMCMCの計算複雑性を分析すること。
• MCMCの複雑性を低減する2つの戦略—スパースgpc代理モデル化とMLMCMC—を開発および分析すること。
• 提案手法の作業量と精度の間の漸近的バインディングを導出することにより、複雑性低減が達成される条件を確立すること。
• シンプルMCMCに比べて複雑性低減を可能にする十分な正則性および近似条件を同定すること。

提案手法

• 全パラメータ空間全体における前向きPDE応答写像を表す、スパースでパラメトリックかつ決定論的な一般化パラメトリッククラウド（gpc）代理モデルを構築する。
• gpc代理モデルを用いて、PDEの高価な解法を高速な多項式展開評価に置き換えることで、MCMCサンプリングを高速化する。
• 事後分布および前向きPDEの両方のマルチレベル離散化に基づく、新規なマルチレベルマーカフチェーンモンテカルロ（MLMCMC）戦略を開発する。
• MLMCMCをgpc代理モデルと組み合わせることで、精度を維持したままサンプリングコストをさらに低減する。
• 係数の正則性の分析と近似誤差制御を用いて、両手法の漸近的作業-精度バインディングを導出する。
• シンプルMCMCに比べて複雑性低減を保証するための、係数の正則性および近似手法に関する十分な条件を確立する。

実験結果

リサーチクエスチョン

• RQ1 不確実係数を伴う楕円型PDEのベイズ逆問題に標準的MCMCを適用した際の計算複雑性は何か？
• RQ2 スパース一般化パラメトリッククラウド（gpc）代理モデルは、ベイズ逆PDEにおけるMCMCの計算負荷を低減できるか？
• RQ3 階層的PDE離散化に基づくマルチレベルMCMC戦略は、作業-精度スケーリングの改善をもたらすか？
• RQ4 提案手法がシンプルMCMCに比べて複雑性低減を達成するための正則性および近似条件は何か？
• RQ5 ベイズ逆問題におけるgpc-MLMCMC統合手法の漸近的作業-精度バインディングは何か？

主な発見

• マルチレベルPDEソルバーを組み合わせたシンプルMCMCの計算複雑性は、実用的使用には耐えがたいほど高いことが示された。
• 提案されたスパースgpc代理モデル手法は、繰り返し発生するPDE解法を高速な多項式評価に置き換えることで、MCMCの複雑性を低減した。
• MLMCMC戦略は、マルチレベル離散化を活用してMCMC推定器の分散を低減することで、複雑性低減を達成した。
• gpc-MLMCMCを統合した手法は、係数および近似手法の十分な正則性下で、シンプルMCMCよりもより好ましいスケーリングを示す漸近的作業-精度バインディングを達成した。
• シンプルMCMCに比べて複雑性低減を保証するための、係数正則性および近似精度に関する十分な条件が導出された。
• 両提案手法の作業-精度バインディングは、これらの正則性および近似条件が満たされれば、実用的に複雑性低減が達成可能であることを示した。