[論文レビュー] A Hierarchical Multilevel Markov Chain Monte Carlo Algorithm with Applications to Uncertainty Quantification in Subsurface Flow

Tim Dodwell, C. Ketelsen+2 more|arXiv (Cornell University)|Mar 29, 2013

Markov Chains and Monte Carlo Methods参考文献 21被引用数 10

ひとこと要約

本稿では、空間グリッドの階層を活用することで、地下流体のベイズ的不確実性評価における計算コストを顕著に低減する階層的マルチレベルメトロポリス・ハスティングスアルゴリズムを提案する。異なるレベルで並列にマルコフ連鎖を構築し、粗いグリッドの情報を活用する新しい提案機構を用いることで、$varepsilon = 10^{-2}$未満の許容誤差において、標準MCMCに比べて10倍以上のコスト削減を達成した。数値結果は理論的利点を確認している。

ABSTRACT

In this paper we address the problem of the prohibitively large computational cost of existing Markov chain Monte Carlo methods for large--scale applications with high dimensional parameter spaces, e.g. in uncertainty quantification in porous media flow. We propose a new multilevel Metropolis-Hastings algorithm, and give an abstract, problem dependent theorem on the cost of the new multilevel estimator based on a set of simple, verifiable assumptions. For a typical model problem in subsurface flow, we then provide a detailed analysis of these assumptions and show significant gains over the standard Metropolis-Hastings estimator. Numerical experiments confirm the analysis and demonstrate the effectiveness of the method with consistent reductions of more than an order of magnitude in the cost of the multilevel estimator over the standard Metropolis-Hastings algorithm for tolerances $\varepsilon < 10^{-2}$.

研究の動機と目的

• 高次元かつ大規模な地下流体問題における標準メトロポリス・ハスティングスMCMCの計算コストが非常に高いため、これを解決すること。
• PDE制約付きベイズ推論における計算負担の主因である尤度評価のコストを低減すること。
• 事後分布からの正確なサンプリングを維持しながら、計算の階層的構造を活用するマルチレベルMCMCフレームワークを開発すること。
• 検証可能な仮定の下で、マルチレベル推定子の計算コストの理論的上限を確立し、それを数値的に検証すること。
• 対数正規分布の係数を有する現実的なダルシー流れモデルにおいて、顕著な効率的向上を示すこと。

提案手法

• 有限要素離散化の階層（粗いグリッドから細かいグリッドまで）を導入し、PDE解を段階的に高分解能で近似する。
• 2つの並列マルコフ連鎖を構築する：1つは新しい提案分布を用いた最も細かいレベルで、もう1つは標準メトロポリス・ハスティングスを用いた粗いレベルで。
• 主な革新点は、粗い連鎖の情報を用いて細かいレベルでの提案を効果的に制御する階層的提案機構であり、高価な尤度評価の回数を削減する。
• 遅延承認アプローチを用い、まず粗いレベルの尤度に基づいて提案を受容または却認し、その後に細かいレベルでの評価を行う。
• マルチレベル推定子は、連続するレベル間の出力量の差分を計算し、これらの差分が低分散かつ低コストであることに着目する。
• 理論的分析により、離散化誤差の収束速度と尤度計算コストに関する仮定の下で、計算コストの上限を確立した。

実験結果

リサーチクエスチョン

• RQ1 高次元のベイズ逆問題における地下流体の計算コストを低減するためのマルチレベルMCMCフレームワークを設計可能か？
• RQ2 粗いグリッドのサンプルに基づく階層的提案を用いることで、最も細かいレベルでの高価な尤度評価回数を顕著に削減できるか？
• RQ3 マルチレベルMCMC推定子が標準MCMCよりも低いコストを達成する理論的条件は何か？
• RQ4 離散化誤差の収束速度と尤度計算コストの影響が、マルチレベル手法の効率向上にどのように寄与するか？
• RQ5 顕著な計算コスト削減を達成しつつ、事後分布からの正確なサンプリングを維持できるか？

主な発見

• $varepsilon < 10^{-2}$ の許容誤差において、マルチレベルMCMC推定子は標準MCMCに比べて計算コストを10倍以上削減した。
• 典型的なダルシー流れ問題において、本手法は最も細かいレベルで約562回のPDE解法で十分であったが、標準MCMCでは同程度の誤差許容度を達成するのに約$4 \times 10^6$回のPDE解法が必要であった。
• マルチレベル差分推定子の分散は、$mathcal{O}(h^2)$ に近い速度で収束し、理論的仮定を支持する結果となった。
• マルチレベルの拒否確率は、$mathcal{O}(h)$ よりもわずかに速やかに収束しており、理論的上限が保守的である可能性を示唆している。
• 再帰的独立サンプリング戦略は、標準MCMCにおいても効率を向上させたため、マルチレベルフレームワークを超えた広範な適用可能性を示している。
• 粗いレベルでの高速な混合と自己相関時間の短縮により、本手法は効果的なバーニング戦略を提供する。