[论文解读] Modern Monte Carlo Methods for Efficient Uncertainty Quantification and Propagation: A Survey

Jiaxin Zhang|arXiv (Cornell University)|Nov 2, 2020

Probabilistic and Robust Engineering Design参考文献 112被引用 11

一句话总结

本文综述了现代蒙特卡洛方法——多水平（MLMC）、多保真度（MFMC）和多模型（MMMC）——以加速计算成本高昂的模拟中的不确定性量化与传播。通过利用控制变量、多保真度模型以及具有不精确概率的重要性抽样，这些方法在保持精度的同时降低了计算成本，尤其在数据稀缺或高保真度模型受限的情况下表现更优。

ABSTRACT

Uncertainty quantification (UQ) includes the characterization, integration, and propagation of uncertainties that result from stochastic variations and a lack of knowledge or data in the natural world. Monte Carlo (MC) method is a sampling-based approach that has widely used for quantification and propagation of uncertainties. However, the standard MC method is often time-consuming if the simulation-based model is computationally intensive. This article gives an overview of modern MC methods to address the existing challenges of the standard MC in the context of UQ. Specifically, multilevel Monte Carlo (MLMC) extending the concept of control variates achieves a significant reduction of the computational cost by performing most evaluations with low accuracy and corresponding low cost, and relatively few evaluations at high accuracy and correspondingly high cost. Multifidelity Monte Carlo (MFMC) accelerates the convergence of standard Monte Carlo by generalizing the control variates with different models having varying fidelities and varying computational costs. Multimodel Monte Carlo method (MMMC), having a different setting of MLMC and MFMC, aims to address the issue of uncertainty quantification and propagation when data for characterizing probability distributions are limited. Multimodel inference combined with importance sampling is proposed for quantifying and efficiently propagating the uncertainties resulting from small datasets. All of these three modern MC methods achieve a significant improvement of computational efficiency for probabilistic UQ, particularly uncertainty propagation. An algorithm summary and the corresponding code implementation are provided for each of the modern Monte Carlo methods. The extension and application of these methods are discussed in detail.

研究动机与目标

• 解决在昂贵模拟模型中标准蒙特卡洛方法在不确定性量化（UQ）中计算成本过高的问题。
• 克服标准蒙特卡洛方法在高维或计算密集型问题中收敛缓慢（$\mathcal{O}(N^{-1/2})$）的局限。
• 在数据有限导致认识论不确定性（epistemic uncertainty）的情况下，提升 UQ 的效率，此时传统概率方法会失效。
• 开发非侵入式、可扩展且鲁棒的基于抽样的框架，与现有模拟流程兼容。
• 在工程与科学应用中，实现高效不确定性传播、敏感性分析及不确定性下的决策制定。

提出的方法

• 通过使用控制变量结合多保真度水平的模拟，采用多水平蒙特卡洛（MLMC）方法，降低方差与计算成本。
• 通过加权控制变量结合低保真度与高保真度模型，采用多保真度蒙特卡洛（MFMC）方法，加速收敛速度，超越标准蒙特卡洛方法。
• 提出多模型蒙特卡洛（MMMC）方法，通过结合多种模型并利用最优重要性抽样重加权，处理小样本数据带来的认识论不确定性。
• 在 MMMC 框架中应用重要性抽样，以高效传播由有限数据推导出的不精确概率分布。
• 采用非参数方法表示模型形式与参数的不确定性，当数据不足以支持参数分布时尤为适用。
• 为三种方法提供算法总结与开源代码实现，确保可复现性与实际应用推广。

实验结果

研究问题

• RQ1 当高保真度模型计算成本高昂时，如何降低不确定性传播的计算成本？
• RQ2 低保真度模型应如何最优地与高保真度模型结合，以加速 UQ 中的统计估计？
• RQ3 当数据稀缺且传统参数分布不可靠时，如何量化并传播不确定性？
• RQ4 多模型推断与重要性抽样在认识论不确定性下如何提升鲁棒性与效率？
• RQ5 在真实世界的 UQ 问题中，现代蒙特卡洛方法相较于标准蒙特卡洛方法，在收敛速度与计算效率方面有何差异？

主要发现

• MLMC 通过在低保真度上执行大部分模拟，仅在高保真度上执行少量模拟，显著提升了效率，实现了计算成本的降低。
• MFMC 通过利用具有不同保真度与成本的模型层级，提升收敛速度，优于标准蒙特卡洛方法。
• MMMC 通过多模型推断结合模型形式与参数不确定性，在数据稀缺条件下实现了稳健的不确定性量化。
• 在 MMMC 中使用最优重要性抽样，可降低方差并提升传播小样本数据导出的不精确概率时的精度。
• 在材料科学、结构可靠性与风险评估等实际应用中，三种方法均展现出显著的计算节省。
• 所提出的方法具有非侵入性、可扩展性，并与现有模拟代码兼容，可在计算科学与工程领域实现广泛应用。