[论文解读] Exploring the limits of safety analysis in complex technological systems

Didier Sornette, Thomas Maillart+1 more|arXiv (Cornell University)|Jul 24, 2012

Risk and Safety Analysis参考文献 1被引用 6

一句话总结

本文通过展示PSA在预测复杂技术系统（尤其是核能）中极端损失时持续低估大规模事件频率，挑战了概率安全评估（PSA）的可靠性。利用一个包含99起高影响事件的新数据库，作者发现损失服从幂律分布，尾指数μ ≈ 0.7，且简单的级联模型表明，级联概率（β）存在5%的低估时，由于接近临界值β = 1，将导致极端风险被显著低估。

ABSTRACT

From biotechnology to cyber-risks, most extreme technological risks cannot be reliably estimated from historical statistics. Therefore, engineers resort to predictive methods, such as fault/event trees in the framework of probabilistic safety assessment (PSA), which consists in developing models to identify triggering events, potential accident scenarios, and estimate their severity and frequency. However, even the best safety analysis struggles to account for evolving risks resulting from inter-connected networks and cascade effects. Taking nuclear risks as an example, the predicted plant-specific distribution of losses is found to be significantly underestimated when compared with available empirical records. Using a novel database of 99 events with losses larger than $50'000 constructed by Sovacool, we document a robust power law distribution with tail exponent mu \approx 0.7. A simple cascade model suggests that the classification of the different possible safety regimes is intrinsically unstable in the presence of cascades. Additional continuous development and validation, making the best use of the experienced realized incidents, near misses and accidents, is urgently needed to address the existing known limitations of PSA when aiming at the estimation of total risks.

研究动机与目标

• 评估概率安全评估（PSA）在预测复杂技术系统（尤其是核能）中极端损失时的局限性。
• 探究尽管采用严格方法论，PSA为何系统性地低估大规模事件的频率与严重性。
• 利用Sovacool（2008）整理的99起损失超过50,000美元的事件新数据库，评估经验损失分布的稳健性。
• 通过概念级联模型，探讨级联失效在放大风险方面的作用，使其超出PSA的预测范围。
• 倡导将现实世界事故数据持续整合进PSA框架，以改进长期风险估计与安全决策。

提出的方法

• 构建了一个包含99起高影响技术事故的新型经验数据库，损失超过50,000美元，数据来源为Sovacool（2008），用于分析损失分布。
• 对经验损失数据应用幂律拟合，估计尾指数μ ≈ 0.7，表明损失具有重尾分布特征。
• 开发了一个简单的概念级联模型，其中每个失效阶段以概率β向下一阶段传播，具有放大因子Λ。
• 将级联模型校准以匹配经验损失分布与PSA预测的分布，揭示在β ≈ 1附近对β的敏感性。
• 通过比较级联模型所需的β（≈0.95）与PSA估计的β（≈0.90），量化PSA预测与经验数据之间的差异。
• 利用模型表明，级联概率（β）和放大因子（Λ）各存在5%的低估时，将导致大规模事件频率被显著低估。

实验结果

研究问题

• RQ1 为何概率安全评估（PSA）持续无法准确预测大规模技术事故的真实频率？
• RQ2 主要技术事故的损失经验分布为何种形式？其是否符合幂律模式？
• RQ3 失效传播中的级联效应如何导致PSA对极端风险的低估？
• RQ4 为重现经验损失分布，所需的级联概率（β）水平为何？其与PSA估计值相比如何？
• RQ5 风险估计对级联概率微小误差的敏感性在多大程度上由接近临界阈值β = 1所驱动？

主要发现

• 99起高影响事件的经验损失分布表现出稳健的幂律特征，尾指数μ ≈ 0.7，表明存在极端重尾行为。
• 由于对级联效应建模不足，PSA预测的损失分布显著低估了大规模事件的频率，尤其是在尾部区域。
• 简单级联模型表明，若级联概率β从PSA估计值0.90提高至经验拟合值0.95，将导致大规模事件预测频率显著上升。
• 模型揭示，当β接近临界值1时，风险估计对β极为敏感，解释了为何级联概率的微小误差会导致极大低估。
• 为使PSA预测与经验观察一致，级联模型中的放大因子Λ需提高约5%，进一步加剧了预测差异。
• 本研究结论认为，当前PSA框架在估计复杂互联系统总风险方面存在结构性缺陷，亟需持续整合现实世界事故数据以实现改进。