[논문 리뷰] Modern Monte Carlo Methods for Efficient Uncertainty Quantification and Propagation: A Survey

Jiaxin Zhang|arXiv (Cornell University)|2020. 11. 02.

Probabilistic and Robust Engineering Design참고 문헌 112인용 수 11

한 줄 요약

이 논문은 계산적으로 비용이 많이 들는 시뮬레이션에서 불확실성 정량화 및 전파를 가속화하기 위해 현대적 몬테카를로 방법—다중수준(MLMC), 다중신뢰도(MFMC), 다중모델(MMMC)—을 조사한다. 제어 변수, 다중신뢰도 모델, 그리고 부정확한 확률을 활용한 중요도 표본 추출을 통해 이러한 방법들은 정확성을 유지하면서도 계산 비용을 줄이며, 특히 데이터 부족 또는 고신뢰도 모델 제약 조건 하에서 유리하다.

ABSTRACT

Uncertainty quantification (UQ) includes the characterization, integration, and propagation of uncertainties that result from stochastic variations and a lack of knowledge or data in the natural world. Monte Carlo (MC) method is a sampling-based approach that has widely used for quantification and propagation of uncertainties. However, the standard MC method is often time-consuming if the simulation-based model is computationally intensive. This article gives an overview of modern MC methods to address the existing challenges of the standard MC in the context of UQ. Specifically, multilevel Monte Carlo (MLMC) extending the concept of control variates achieves a significant reduction of the computational cost by performing most evaluations with low accuracy and corresponding low cost, and relatively few evaluations at high accuracy and correspondingly high cost. Multifidelity Monte Carlo (MFMC) accelerates the convergence of standard Monte Carlo by generalizing the control variates with different models having varying fidelities and varying computational costs. Multimodel Monte Carlo method (MMMC), having a different setting of MLMC and MFMC, aims to address the issue of uncertainty quantification and propagation when data for characterizing probability distributions are limited. Multimodel inference combined with importance sampling is proposed for quantifying and efficiently propagating the uncertainties resulting from small datasets. All of these three modern MC methods achieve a significant improvement of computational efficiency for probabilistic UQ, particularly uncertainty propagation. An algorithm summary and the corresponding code implementation are provided for each of the modern Monte Carlo methods. The extension and application of these methods are discussed in detail.

연구 동기 및 목표

• 비용이 많이 들는 시뮬레이션 모델에 대한 불확실성 정량화(UQ)에서 표준 몬테카를로 방법의 높은 계산 비용을 해결하기 위해.
• 고차원 또는 계산적으로 비용이 많이 드는 문제에서 표준 몬테카를로 방법의 느린 수렴($\mathcal{O}(N^{-1/2})$)을 극복하기 위해.
• 제한된 데이터로 인한 지식 부족에 기인한 지식적 불확실성 하에서 전통적인 확률적 방법이 실패하는 상황에서 UQ의 효율성을 향상시키기 위해.
• 기존 시뮬레이션 파이프라인과 호환되는 비침습적, 확장 가능하고 강건한 표본 기반 프레임워크를 개발하기 위해.
• 공 ing 및 과학적 응용 분야에서 불확실성 하의 효율적 불확실성 전파, 민감도 분석 및 의사결정 지원을 가능하게 하기 위해.

제안 방법

• 제어 변수를 사용하여 다양한 수준의 정밀도를 가진 시뮬레이션을 조합함으로써 분산과 계산 비용을 줄이는 다중수준 몬테카를로(MLMC)를 활용한다.
• 저신뢰도 및 고신뢰도 모델을 가중치가 부여된 제어 변수를 통해 조합함으로써 표준 몬테카를로보다 수렴 속도를 높이는 다중신뢰도 몬테카를로(MFMC)를 적용한다.
• 작은 데이터셋에서 기인하는 지식적 불확실성을 다루기 위해 다수의 모델을 조합하고 최적의 중요도 표본 추출 재가중치를 사용하는 다중모델 몬테카를로(MMMC)를 도입한다.
• 제한된 데이터에서 유도된 부정확한 확률 분포를 효율적으로 전파하기 위해 MMMC 내에서 중요도 표본 추출을 적용한다.
• 데이터가 부족하여 비모수적 분포를 사용하기 어려운 상황에서 모델 형식과 매개변수의 불확실성을 표현하기 위해 비모수적 방법을 사용한다.
• 모든 세 가지 방법에 대해 알고리즘 요약과 오픈소스 코드 구현을 제공하여 재현 가능성과 실용적 적용을 보장한다.

실험 결과

연구 질문

• RQ1 고신뢰도 모델의 평가가 비용이 많이 들 때, 불확실성 전파에서 계산 비용을 어떻게 줄일 수 있는가?
• RQ2 저신뢰도 모델을 고신뢰도 모델과 어떻게 최적으로 조합할 수 있으며, 이를 통해 UQ에서 통계적 추정의 수렴 속도를 어떻게 높일 수 있는가?
• RQ3 데이터가 부족하고 전통적인 비모수적 분포가 신뢰할 수 없을 경우, 불확실성을 어떻게 정량화하고 전파할 수 있는가?
• RQ4 지식적 불확실성 하에서 다중모델 추론과 중요도 표본 추출이 강건성과 효율성을 향상시키는 데 어떤 역할을 하는가?
• RQ5 실제 UQ 문제에 있어서 현대 몬테카를로 방법이 표준 몬테카를로 방법과 비교해 수렴 속도와 계산 효율성 측면에서 어떻게 다른가?

주요 결과

• MLMC는 대부분의 시뮬레이션을 저신뢰도 수준에서 수행하고 고신뢰도 수준에서는 소수의 시뮬레이션만 수행함으로써 계산 비용을 크게 줄이며 효율성을 크게 향상시킨다.
• MFMC는 다양한 정밀도와 비용을 가진 모델의 계층을 활용함으로써 수렴 속도를 향상시켜 표준 몬테카를로보다 더 빠른 수렴을 달성한다.
• MMMC는 다중모델 추론을 통해 모델 형식과 매개변수 불확실성을 통합함으로써 데이터 부족 상황에서도 강건한 불확실성 정량화를 가능하게 한다.
• MMMC에서 최적의 중요도 표본 추출을 사용함으로써 작은 데이터셋에서 유도된 부정확한 확률 분포를 전파할 때 분산을 줄이고 정확도를 향상시킨다.
• 모든 세 가지 방법이 실생활 응용 분야에서 뚜렷한 계산 비용 절감 효과를 보였다. 이는 재료 과학, 구조적 신뢰성 및 위험 평가 분야에 포함된다.
• 제안된 방법들은 비침습적이고 확장 가능하며 기존 시뮬레이션 코드와 호환되어 계산 과학 및 공학 분야 전반에 걸쳐 넓은 적용 가능성을 지닌다.