[論文レビュー] Modern Monte Carlo Methods for Efficient Uncertainty Quantification and Propagation: A Survey

Jiaxin Zhang|arXiv (Cornell University)|Nov 2, 2020

Probabilistic and Robust Engineering Design参考文献 112被引用数 11

ひとこと要約

本稿は、計算的に高価なシミュレーションにおける不確実性の定量化と伝播を高速化するため、現代のモンテカルロ法—多層（MLMC）、多忠実度（MFMC）、多モデル（MMMC）—を概説する。制御変数、多忠実度モデル、曖昧な確率に基づく重要度サンプリングを活用することで、特にデータが不足している場合や高忠実度モデルの制約下でも、計算コストを削減しながら精度を維持する。

ABSTRACT

Uncertainty quantification (UQ) includes the characterization, integration, and propagation of uncertainties that result from stochastic variations and a lack of knowledge or data in the natural world. Monte Carlo (MC) method is a sampling-based approach that has widely used for quantification and propagation of uncertainties. However, the standard MC method is often time-consuming if the simulation-based model is computationally intensive. This article gives an overview of modern MC methods to address the existing challenges of the standard MC in the context of UQ. Specifically, multilevel Monte Carlo (MLMC) extending the concept of control variates achieves a significant reduction of the computational cost by performing most evaluations with low accuracy and corresponding low cost, and relatively few evaluations at high accuracy and correspondingly high cost. Multifidelity Monte Carlo (MFMC) accelerates the convergence of standard Monte Carlo by generalizing the control variates with different models having varying fidelities and varying computational costs. Multimodel Monte Carlo method (MMMC), having a different setting of MLMC and MFMC, aims to address the issue of uncertainty quantification and propagation when data for characterizing probability distributions are limited. Multimodel inference combined with importance sampling is proposed for quantifying and efficiently propagating the uncertainties resulting from small datasets. All of these three modern MC methods achieve a significant improvement of computational efficiency for probabilistic UQ, particularly uncertainty propagation. An algorithm summary and the corresponding code implementation are provided for each of the modern Monte Carlo methods. The extension and application of these methods are discussed in detail.

研究の動機と目的

• 高価なシミュレーションモデルにおける不確実性の定量化（UQ）における標準モンテカルロ法の高い計算コストに対処すること。
• 高次元または計算が高価な問題において、標準モンテカルロ法の収束が遅い（$\mathcal{O}(N^{-1/2})$）という問題を克服すること。
• データが限られている場合に生じる認識的不確実性（エピステムス的不確実性）の下で、従来の確率的手法が失敗する状況におけるUQの効率を向上させること。
• 既存のシミュレーションパイプラインと互換性がある非侵襲的でスケーラブルで頑健なサンプリングベースのフレームワークを開発すること。
• 工学的・科学的応用分野における意思決定支援や感度分析、不確実性下での効率的な不確実性伝播を可能にすること。

提案手法

• 制御変数を用いて複数の忠実度レベルのシミュレーションを組み合わせることで分散と計算コストを低減する多層モンテカルロ（MLMC）を活用する。
• 低忠実度モデルと高忠実度モデルを重み付き制御変数で組み合わせることで、標準モンテカルロを上回る収束速度を達成する多忠実度モンテカルロ（MFMC）を採用する。
• 少数のデータから生じる認識的不確実性に対処するため、複数のモデルを統合し、最適な重要度サンプリングによる再重み付けを用いる多モデルモンテカルロ（MMMC）を導入する。
• 限られたデータから導かれる曖昧な確率分布を効率的に伝播させるために、MMMC内での重要度サンプリングを適用する。
• データがパラメトリック分布に適合しない場合に、モデルの形とパrameterの不確実性を非パラメトリック手法で表現する。
• すべての3つの手法についてアルゴリズムの要約とオープンソースのコード実装を提供し、再現性と実用的導入を確保する。

実験結果

リサーチクエスチョン

• RQ1 高忠実度モデルの評価が高価な場合、不確実性伝播において計算コストをどのように低減できるか？
• RQ2 低忠実度モデルをどのように最適に高忠実度モデルと組み合わせることで、UQにおける統計的推定の収束を加速できるか？
• RQ3 データが不足しており従来のパラメトリック分布が信頼できない状況で、不確実性をどのように定量化・伝播できるか？
• RQ4 認識的不確実性の下で、多モデル推論と重要度サンプリングがどのように頑健性と効率性を向上させるか？
• RQ5 実世界のUQ問題において、現代のモンテカルロ法は標準モンテカルロと比べて収束速度と計算効率でどのように差をつけるか？

主な発見

• MLMCは、大部分のシミュレーションを低忠実度で実行し、高忠実度で少数のシミュレーションのみを実行することで、計算コストの大幅な削減を達成し、効率性が著しく向上する。
• MFMCは、忠実度とコストが異なるモデルの階層を活用することで、標準モンテカルロを上回る収束速度を実現する。
• MMMCは、多モデル推論によりモデルの形とパrameterの不確実性を統合することで、データ不足下でも頑健な不確実性の定量化を可能にする。
• MMMCにおける最適な重要度サンプリングの適用により、少数のデータから導かれる曖昧な確率分布の伝播において分散が低減され、精度が向上する。
• 実世界の応用、例えば材料科学、構造的信頼性、リスクアセスメントにおいて、3つの手法とも顕著な計算コストの削減を示した。
• 提案手法は非侵襲的でスケーラブルであり、既存のシミュレーションコードとも互換性があるため、計算科学および工学分野における広範な応用が可能である。