[论文解读] Assurance of System Safety: A Survey of Design and Argument Patterns

Mario Gleirscher, Stefan Kugele|arXiv (Cornell University)|Feb 14, 2019

Safety Systems Engineering in Autonomy参考文献 136被引用 5

一句话总结

本文回顾了过去二十年间系统安全领域中的设计与论证模式，基于其特性、目的及相互关系，提出了一套安全模式分类体系。研究识别出在安全模式对安全声明的影响、安全的局部化分解以及安全与安全之间的相互作用等方面存在研究空白，主张通过统一的正式框架与实际集成，以改进保证案例构建与组合验证。

ABSTRACT

The specification, design, and assurance of safety encompasses various concepts and best practices, subject of reuse in form of patterns. This work summarizes applied research on such concepts and practices with a focus on the last two decades and on the state-of-the-art of patterns in safety-critical system design and assurance argumentation. We investigate several aspects of such patterns, for example, where and when they are applied, their characteristics and purposes, and how they are related. For each aspect, we provide an overview of relevant studies and synthesize a taxonomy of first principles underlying these patterns. Furthermore, we comment on how these studies address known challenges and we discuss suggestions for further research. Our findings disclose a lack of research on how patterns improve system safety claims and, vice versa, on the decomposition of system safety into separated local concerns, and on the impact of security on safety.

研究动机与目标

• 综合并分类过去二十年中系统安全工程领域所使用的设计与论证模式。
• 识别安全模式在重用与验证方面面临的关键挑战，特别是其对安全声明的影响及组合推理的挑战。
• 探讨安全与安全之间的相互作用，以及安全与安全模式整合研究的缺乏。
• 提出一个统一的语义框架，以支持安全概念的正式验证与知识重用。
• 通过识别安全反模式、工业实践以及在机器人与自主系统等新兴领域中的应用等未充分探索的研究方向，为未来研究提供指引。

提出的方法

• 对学术与工业文献中关于安全模式的研究开展系统性调查，重点关注设计与保证论证。
• 基于其应用背景、特性、目的及与其他模式的关系，分析各类模式。
• 结合安全工程、可靠性工程与系统架构的洞见，综合构建支撑安全模式的底层原则分类体系。
• 评估现有研究在形式化建模、语义精确性及模式组合验证方面的处理情况。
• 提出一个概念模型，将安全模式表示为设计模式与安全契约的配对，以支持正式验证。
• 通过批判性分析现有文献中的研究空白，识别未来研究方向，包括统一知识库与工业反馈回路的必要性。

实验结果

研究问题

• RQ1 当前安全模式在系统设计与保证案例构建中如何应用？其关键特性与相互关系是什么？
• RQ2 现有安全模式在多大程度上提升了系统安全声明？其影响如何被正式衡量或验证？
• RQ3 通过模式将系统安全分解为可重用的、局部化的关注点，当前存在哪些局限性？
• RQ4 安全与安全模式的集成如何影响复杂系统的保证？为填补这一空白，需要哪些研究？
• RQ5 将安全、可靠性与安全工程概念统一为一个共同的语义框架，以支持模式重用，最有效的路径是什么？

主要发现

• 在安全模式如何提升系统安全声明或促进安全向局部、可管理的关注点分解方面，研究严重不足。
• 安全对安全的影响仍缺乏充分研究，极少有研究探讨安全与安全模式之间的相互作用。
• 各研究中使用的形式化表达方式各异，阻碍了安全模式之间的比较与组合验证。
• 对安全概念的形式化建模——尤其是概率模型或基于逻辑的模型——在满足保证证明要求方面潜力最大。
• 亟需建立一个整合安全、可靠性、安全与人因工程的统一知识体系，以支持一致且可重用的安全模式开发。
• 未来研究应优先开展工业安全实践的实证研究，发展安全反模式，并将模式分类体系扩展至机器人与自主系统等新兴领域。