[论文解读] Bayesian Updating and Uncertainty Quantification using Sequential Tempered MCMC with the Rank-One Modified Metropolis Algorithm

Thomas Catanach, James L. Beck|arXiv (Cornell University)|Apr 23, 2018

Probabilistic and Robust Engineering Design参考文献 36被引用 5

一句话总结

该论文提出了一种新颖的顺序退火MCMC（ST-MCMC）框架，并结合等级一改进的梅特罗波利斯算法（ROMMA），以高效解决高维、受限系统中的联合贝叶斯更新与后验可靠性评估问题。通过利用退火、重要性重采样，以及一种基于先验约束自适应调整的提议机制，ROMMA显著提升了在复杂、高维后验分布中的MCMC采样效率，实现了对水分配网络等系统在参数不确定情况下的故障概率的精确且稳健的估计。

ABSTRACT

Bayesian methods are critical for quantifying the behaviors of systems. They capture our uncertainty about a system's behavior using probability distributions and update this understanding as new information becomes available. Probabilistic predictions that incorporate this uncertainty can then be made to evaluate system performance and make decisions. While Bayesian methods are very useful, they are often computationally intensive. This necessitates the development of more efficient algorithms. Here, we discuss a group of population Markov Chain Monte Carlo (MCMC) methods for Bayesian updating and system reliability assessment that we call Sequential Tempered MCMC (ST-MCMC) algorithms. These algorithms combine 1) a notion of tempering to gradually transform a population of samples from the prior to the posterior through a series of intermediate distributions, 2) importance resampling, and 3) MCMC. They are a form of Sequential Monte Carlo and include algorithms like Transitional Markov Chain Monte Carlo and Subset Simulation. We also introduce a new sampling algorithm called the Rank-One Modified Metropolis Algorithm (ROMMA), which builds upon the Modified Metropolis Algorithm used within Subset Simulation to improve performance in high dimensions. Finally, we formulate a single algorithm to solve combined Bayesian updating and reliability assessment problems to make posterior assessments of system reliability. The algorithms are then illustrated by performing prior and posterior reliability assessment of a water distribution system with unknown leaks and demands.

研究动机与目标

• 将贝叶斯更新与后验可靠性评估统一为一个计算框架，以应对复杂系统的问题。
• 解决传统MCMC方法在高维、受限后验分布中计算效率低下的问题。
• 开发一种可扩展、可并行化的MCMC采样器，使其在高维空间和模型不确定性下优于标准方法。
• 实现在数据不完整或信息量不足情况下的真实系统后验故障概率的精确估计。
• 在具有不确定泄漏和需求的高维供水分配系统上，展示该框架的鲁棒性与高效性。

提出的方法

• ST-MCMC框架通过一系列中间分布，利用退火技术将样本群体从先验逐步转换为后验。
• 在每个退火层级应用重要性重采样，以维持样本多样性，并提升对复杂后验结构的探索能力。
• 提出等级一改进的梅特罗波利斯算法（ROMMA）作为新型MCMC提议机制，基于先验信息执行顺序的一阶更新。
• ROMMA通过使提议适应先验结构，特别是在存在不等式约束和高维相关性时，显著提升采样效率。
• 该方法结合退火、基于种群的采样与自适应提议生成，以增强在复杂后验景观中的混合与收敛性能。
• 该框架支持后验故障概率与模型证据的联合估计，实现系统可靠性中的完整不确定性量化。

实验结果

研究问题

• RQ1 统一的ST-MCMC框架能否高效解决高维系统中的贝叶斯更新与后验可靠性问题？
• RQ2 与标准梅特罗波利斯方法相比，等级一改进的梅特罗波利斯算法（ROMMA）在高维、受限后验分布中如何提升MCMC采样效率？
• RQ3 ROMMA在数据信息量不足或约束条件紧密的后验故障区域中，其采样性能提升程度如何？
• RQ4 ST-MCMC结合ROMMA能否在存在模型不确定性和复杂依赖关系的系统中稳健估计故障概率？
• RQ5 退火、重采样与自适应提议的结合，在真实应用中如何提升收敛性与计算效率？

主要发现

• ST-MCMC框架成功将贝叶斯更新与后验可靠性评估统一为单一算法流程。
• ROMMA在高维后验分布中显著提升了采样效率，尤其在先验强烈约束参数空间时表现突出。
• 该方法在包含100多个不确定参数（如泄漏位置与用户需求）的供水分配系统中表现出稳健性能。
• 后验故障概率的90%可信区间在敏感区域向更高需求方向移动，反映出数据驱动的更新结果。
• 与先验相比，后验故障均值下降，表明数据融合后故障风险降低，与数据中显示敏感区域存在大泄漏的可能性较低的结论一致。
• 与标准RWM和MMA相比，该算法在高维、强相关后验中表现出更优的收敛性与更短的混合时间。