[論文レビュー] Exploring the limits of safety analysis in complex technological systems

Didier Sornette, Thomas Maillart+1 more|arXiv (Cornell University)|Jul 24, 2012

Risk and Safety Analysis参考文献 1被引用数 6

ひとこと要約

この論文は、特に原子力エネルギー分野における複雑な技術的システムにおける極端な損失を予測する確率的セーフティ・アセスメント（PSA）の信頼性に疑問を呈し、PSAが一貫して大規模な事故頻度を低く見積もっていることを示している。99件の高インパクト事象から構成される新規データベースを用いて、損失のべき乗則的分布（尾指数μ ≈ 0.7）を特定し、単純な段階的崩壊モデルにより、段階的伝播確率βが5%低く見積もられると、β = 1に近接する臨界状態のため、極端リスクが著しく低く見積もられることを明らかにした。

ABSTRACT

From biotechnology to cyber-risks, most extreme technological risks cannot be reliably estimated from historical statistics. Therefore, engineers resort to predictive methods, such as fault/event trees in the framework of probabilistic safety assessment (PSA), which consists in developing models to identify triggering events, potential accident scenarios, and estimate their severity and frequency. However, even the best safety analysis struggles to account for evolving risks resulting from inter-connected networks and cascade effects. Taking nuclear risks as an example, the predicted plant-specific distribution of losses is found to be significantly underestimated when compared with available empirical records. Using a novel database of 99 events with losses larger than $50'000 constructed by Sovacool, we document a robust power law distribution with tail exponent mu \approx 0.7. A simple cascade model suggests that the classification of the different possible safety regimes is intrinsically unstable in the presence of cascades. Additional continuous development and validation, making the best use of the experienced realized incidents, near misses and accidents, is urgently needed to address the existing known limitations of PSA when aiming at the estimation of total risks.

研究の動機と目的

• 複雑な技術的システム、特に原子力エネルギー分野における極端な損失を予測する確率的セーフティ・アセスメント（PSA）の限界を評価すること。
• 洗練された手法を採用しても、大規模事故の頻度と深刻度が一貫して低く見積もられる理由を調査すること。
• Sovacool（2008）が提供した、損失額が50,000ドルを超える99件の事象を収集した新規データベースを用いて、経験的損失分布の頑健性を評価すること。
• 概念的段階的崩壊モデルを用いて、失敗伝播における段階的崩壊の役割がPSAの予測を超えるリスクを拡大する仕組みを調査すること。
• 長期的なリスク推定と安全意思決定の改善を図るため、PSAフレームワークへの実世界の事故データの継続的統合を提唱すること。

提案手法

• Sovacool（2008）から得た、損失額が50,000ドルを超える99件の高インパクト技術的事故を対象とした、新規の経験的データベースを構築し、損失分布を分析した。
• 経験的損失データにべき乗則フィッティングを適用し、尾指数μ ≈ 0.7を推定し、損失の重尾的分布を示した。
• 各段階で失敗が次に伝播する確率がβである単純な概念的段階的崩壊モデルを構築し、拡大係数Λを導入した。
• 段階的崩壊モデルを、経験的損失分布とPSA予測分布の両方に一致させるようにキャリブレーションし、β ≈ 1に近接する状態での感度を明らかにした。
• 段階的崩壊モデルを用いて、PSA予測と経験的データの乖離を定量的に評価し、PSAが推定するβ（≈0.90）と、経験的適合に必要なβ（≈0.95）を比較した。
• モデルを用いて、段階的崩壊確率βおよび拡大係数Λがそれぞれ5%低く見積もられると、大規模イベントの頻度が著しく低く見積もられることを示した。

実験結果

リサーチクエスチョン

• RQ1 なぜ確率的セーフティ・アセスメント（PSA）は、一貫して大規模技術的事故の真の頻度を予測できないのか？
• RQ2 主要技術的事故からの損失の経験的分布はどのようなものか？また、べき乗則的パターンに従うのか？
• RQ3 失敗伝播における段階的崩壊効果は、PSAの予測を超える極端リスクの低く見積もられることにどのように寄与するのか？
• RQ4 経験的損失分布を再現するにはどの程度の段階的崩壊確率βが必要か？また、PSAの推定値と比較するとどうなるか？
• RQ5 段階的崩壊確率のわずかな誤差が、β = 1の臨界閾値に近接するため、リスク推定に与える感度はどの程度のものか？

主な発見

• 99件の高インパクト事故からの経験的損失分布は、尾指数μ ≈ 0.7の強固なべき乗則に従っており、極めて重尾的挙動を示している。
• PSAが予測する損失分布は、特に尾部において大規模なイベントの頻度を著しく低く見積もっており、段階的崩壊の適切なモデル化が不十分であることが原因である。
• 単純な段階的崩壊モデルは、段階的崩壊確率βを0.90（PSA推定値）から0.95（経験的適合値）に引き上げると、大規模イベントの予測頻度が著しく上昇することを示した。
• モデルは、βが1に近接する状態ではリスク推定が極めて敏感であることを明らかにした。これは、段階的崩壊確率のわずかな誤差が、大きな低く見積もられ方につながる理由を説明している。
• PSA予測と経験的観察を一致させるためには、段階的崩壊モデルの拡大係数Λを約5%増加させる必要があり、これにより乖離がさらに拡大する。
• 本研究は、現在のPSAフレームワークが、複雑で相互接続されたシステムにおける総合的リスク推定に構造的に不適切であり、改善のためには継続的な実世界事故データの統合が不可欠であると結論づけた。