[論文レビュー] Bayesian Updating and Uncertainty Quantification using Sequential Tempered MCMC with the Rank-One Modified Metropolis Algorithm

Thomas Catanach, James L. Beck|arXiv (Cornell University)|Apr 23, 2018

Probabilistic and Robust Engineering Design参考文献 36被引用数 5

ひとこと要約

本稿では、高次元で制約のあるシステムにおける連続的ベイズ更新と事後信頼性評価問題を効率的に解くために、新しい順序付き温度調整MCMC（ST-MCMC）フレームワークとランク1変更メトロポリス法（ROMMA）を組み合わせた手法を提案する。温度調整、重要度再抽出、事前分布の制約に適応する提案手法を用いることで、ROMMAは複雑な高次元事後分布におけるMCMCサンプリング効率を著しく向上させ、水道配管網のようなパラメータに不確実性を含むシステムにおける故障確率の正確で頑健な推定を可能にする。

ABSTRACT

Bayesian methods are critical for quantifying the behaviors of systems. They capture our uncertainty about a system's behavior using probability distributions and update this understanding as new information becomes available. Probabilistic predictions that incorporate this uncertainty can then be made to evaluate system performance and make decisions. While Bayesian methods are very useful, they are often computationally intensive. This necessitates the development of more efficient algorithms. Here, we discuss a group of population Markov Chain Monte Carlo (MCMC) methods for Bayesian updating and system reliability assessment that we call Sequential Tempered MCMC (ST-MCMC) algorithms. These algorithms combine 1) a notion of tempering to gradually transform a population of samples from the prior to the posterior through a series of intermediate distributions, 2) importance resampling, and 3) MCMC. They are a form of Sequential Monte Carlo and include algorithms like Transitional Markov Chain Monte Carlo and Subset Simulation. We also introduce a new sampling algorithm called the Rank-One Modified Metropolis Algorithm (ROMMA), which builds upon the Modified Metropolis Algorithm used within Subset Simulation to improve performance in high dimensions. Finally, we formulate a single algorithm to solve combined Bayesian updating and reliability assessment problems to make posterior assessments of system reliability. The algorithms are then illustrated by performing prior and posterior reliability assessment of a water distribution system with unknown leaks and demands.

研究の動機と目的

• 複雑なシステムにおけるベイズ更新と事後信頼性評価を統合的な計算フレームワークとして統合すること。
• 高次元で制約のある事後分布において、従来のMCMC手法の計算非効率性を解消すること。
• 高次元およびモデル不確実性下でも優れた性能を示す、スケーラブルで並列処理可能なMCMCサンプラーの開発。
• 不完全または情報が乏しいデータを伴う実世界のシステムにおける事後故障確率の正確な推定を可能にすること。
• 不確実な漏れや需要を含む高次元水道配管システムにおいて、フレームワークの頑健性と効率性を実証すること。

提案手法

• ST-MCMCフレームワークは、温度調整を用いて事前分布から事後分布へと段階的にサンプル群を変換する。
• 各温度調整段階で重要度再抽出を適用し、サンプルの多様性を維持するとともに、複雑な事後構造の探索を向上させる。
• ランク1変更メトロポリス法（ROMMA）を新たに導入し、事前情報に基づく逐次的ランク1更新を行うMCMC提案手法を実装する。
• ROMMAは、不等式制約や高次元相関が強い状況においても、事前の構造に適合する提案を生成することで、サンプリング効率を向上させる。
• 温度調整、集団ベースのサンプリング、および適応的提案生成を統合することで、複雑な事後分布の混合と収束を向上させる。
• フレームワークは、事後故障確率とモデル証拠の共同推定を可能とし、システム信頼性における完全な不確実性評価を実現する。

実験結果

リサーチクエスチョン

• RQ1 統合的なST-MCMCフレームワークは、高次元システムにおけるベイズ更新と事後信頼性問題を効率的に解けるか？
• RQ2 ランク1変更メトロポリス法（ROMMA）は、高次元で制約のある事後分布において、標準メトロポリス法に比べてどのようにMCMCサンプリング効率を向上させるか？
• RQ3 データが情報が乏しい、あるいは制約がきつい領域における事後故障領域のサンプリングにおいて、ROMMAはどの程度性能を向上させるか？
• RQ4 ST-MCMCにROMMAを組み合わせることで、モデル不確実性と複雑な依存関係を伴うシステムにおける故障確率を頑健に推定できるか？
• RQ5 温度調整、再抽出、および適応的提案の組み合わせが、実世界の応用における収束性と計算効率をどのように向上させるか？

主な発見

• ST-MCMCフレームワークは、ベイズ更新と事後信頼性評価を統合的なアルゴリズムパイプラインとして成功裏に実現した。
• ROMMAは、特に事前分布がパrameter空間を強く制約する場合に、高次元事後分布におけるサンプリング効率を著しく向上させた。
• 本手法は、漏れの位置やユーザー需要を含む100以上の不確実パラメータを有する水道配管システムにおいて、頑健な性能を示した。
• 事後故障確率は90%信用区間において、特に感度の高い地域では需要が高くなる方向にシフトし、データに適合した更新が反映された。
• 事後故障平均は事前分布と比較して低下しており、データ統合後の故障リスクが低下したことを示しており、特に感度の高い地域に大規模な漏れがある可能性は低いというデータの傾向と整合的であった。
• 特に高次元で相関の強い事後分布において、標準RWMおよびMMAと比較して収束性が向上し、混合時間も短縮された。