[论文解读] Hamiltonian Monte Carlo Methods for Subset Simulation in Reliability Analysis

Ziqi Wang, Marco Broccardo+1 more|arXiv (Cornell University)|Jun 5, 2017

Probabilistic and Robust Engineering Design参考文献 24被引用 4

一句话总结

本文提出使用哈密顿蒙特卡洛（HMC）方法以提升结构可靠性分析中子集模拟的效率与精度。通过用具有确定性、非随机游走特性的HMC替代传统的随机游走Metropolis-Hastings MCMC，该方法在概率空间中实现了更优的探索能力，其中拒绝采样HMC变体在具有解析极限状态函数的问题中，相比传统方法展现出显著更高的效率。

ABSTRACT

This paper studies a non-random-walk Markov Chain Monte Carlo method, namely the Hamiltonian Monte Carlo (HMC) method in the context of Subset Simulation used for structural reliability analysis. The HMC method relies on a deterministic mechanism inspired by Hamiltonian dynamics to propose samples following a target probability distribution. The method alleviates the random walk behavior to achieve a more effective and consistent exploration of the probability space compared to standard Gibbs or Metropolis-Hastings techniques. After a brief review of the basic concepts of the HMC method and its computational details, two algorithms are proposed to facilitate the application of the HMC method to Subset Simulation in structural reliability analysis. Next, the behavior of the two HMC algorithms is illustrated using simple probability distribution models. Finally, the accuracy and efficiency of Subset Simulation employing the two HMC algorithms are tested using various reliability examples. The supporting source code and data are available for download at (the URL that will become available once the paper is accepted).

研究动机与目标

• 解决传统随机游走MCMC方法在稀有失效概率估计中效率低下的问题。
• 探究哈密顿蒙特卡洛（HMC）作为非随机游走替代方法在子集模拟中用于抽样条件分布的适用性与性能。
• 开发并评估两种基于HMC的算法——拒绝采样与屏障反弹——在高斯与非高斯概率空间下的可靠性分析应用。
• 在多种可靠性问题中，包括解析与结构示例，比较基于HMC的子集模拟与标准Metropolis-Hastings方法在精度与计算效率方面的表现。
• 探索HMC在贝叶斯可靠性分析及高维、强相关问题中的潜力，建议未来采用黎曼流形HMC进行扩展。

提出的方法

• 将利用哈密顿动力学通过确定性轨迹提出样本的哈密顿蒙特卡洛（HMC）方法，应用于子集模拟中条件目标分布的抽样。
• 开发一种基于拒绝采样的HMC算法，利用哈密顿动力学提出轨迹，并根据目标密度接受或拒绝这些轨迹，从而避免随机游走行为。
• 提出一种屏障反弹HMC变体，通过割线法或牛顿-拉夫森法计算轨迹与失效域边界的碰撞时间，以建模哈密顿轨迹与边界的相互作用。
• 在子集模拟框架内应用两种HMC算法，其中失效概率被分解为嵌套失效域上的一系列条件概率的乘积。
• 采用数值积分与轨迹模拟计算哈密顿动力学，利用对数目标密度的梯度信息高效生成提议。
• 通过简单概率模型（高斯与非高斯）以及实际可靠性问题（包括结构静力推覆分析与随机振动系统）验证所提方法。

实验结果

研究问题

• RQ1 与标准随机游走Metropolis-Hastings方法相比，基于HMC的抽样是否能提升子集模拟在可靠性分析中的效率与精度？
• RQ2 在标准正态与非高斯概率空间中，所提出的两种HMC变体——拒绝采样与屏障反弹——在抽样效率与收敛性方面表现如何？
• RQ3 屏障反弹HMC方法的计算开销如何？在何种条件下其性能可优于拒绝采样HMC与传统MCMC？
• RQ4 在具有解析极限状态函数的问题中，屏障反弹HMC的碰撞时间是否可解析计算，从而消除额外计算成本并提升效率？
• RQ5 基于HMC的子集模拟能否有效扩展至贝叶斯可靠性分析及高维、强相关系统？

主要发现

• 基于拒绝采样的HMC方法相比传统随机游走Metropolis-Hastings方法实现了显著更高的效率，3700次采样运行下，失效概率估计值为$2.78 \times 10^{-4}$，变异系数（c.o.v.）为0.33。
• 在静力推覆分析示例中，HMC-SS方法以c.o.v.为0.33得出了$2.78 \times 10^{-4}$的失效概率估计，其效率优于传统Metropolis-Hastings方法。
• 屏障反弹HMC（BB-HMC）方法由于需迭代计算碰撞时间，导致计算成本较高，因此在一般情况下效率较低，但当碰撞时间可解析计算时，其性能具有改进潜力。
• 对于具有显式解析极限状态函数的问题（如基于响应面的可靠性分析），BB-HMC可消除碰撞时间计算的计算开销，从而在性能上优于其他方法。
• 数值结果证实，两种基于HMC的子集模拟方法在保持与传统方法相当精度的同时，显著提升了抽样效率，尤其在高维与强相关空间中表现突出。
• 研究结论认为，HMC为子集模拟中的标准MCMC提供了一种通用且具吸引力的替代方案，具有通过黎曼流形HMC扩展至贝叶斯可靠性分析与高维问题的强潜力。