[论文解读] Dynamic Risk Management in Cyber Physical Systems

Daniel Schneider, Jan Reich+2 more|arXiv (Cornell University)|Jan 24, 2024

Safety Systems Engineering in Autonomy被引用 4

一句话总结

本文提出了一种用于协同式与自动化网络物理系统（CPS）的动态风险管理框架，解决了高度自主系统中安全保证的挑战。通过整合实时风险评估、自适应监控和反馈驱动的缓解措施，该方法能够在复杂且不断变化的环境中实现持续的安全验证，为静态、传统的安全标准提供了一种可扩展的替代方案。

ABSTRACT

Cyber Physical Systems (CPS) enable new kinds of applications as well as significant improvements of existing ones in numerous different application domains. A major trait of upcoming CPS is an increasing degree of automation up to the point of autonomy, as there is a huge potential for economic success as well as for ecologic and societal improvements. However, to unlock the full potential of such (cooperative and automated) CPS, we first need to overcome several significant engineering challenges, where safety assurance is a particularly important one. Unfortunately, established safety assurance methods and standards do not live up to this task, as they have been designed with closed and less complex systems in mind. This paper structures safety assurance challenges of cooperative automated CPS, provides an overview on our vision of dynamic risk management and describes already existing building blocks.

研究动机与目标

• 解决高度自动化和协同式网络物理系统（CPS）日益增长的安全保证挑战，这些挑战已超出传统安全方法的能力范围。
• 识别现有安全标准在应用于开放、动态且自主的CPS时的局限性——这些标准原本是为封闭、复杂度较低的系统设计的。
• 提出一种动态风险管理的愿景，作为确保下一代高自主性和互连性CPS安全性的基础方法。
• 将现有构建模块整合为一个连贯的框架，实现实时连续风险评估与自适应响应。
• 实现可扩展的运行时安全验证，随系统行为和环境变化而演化，支持经济、生态和社会效益。

提出的方法

• 通过分析系统复杂性、自主水平和动态交互作用，梳理协同式自动化CPS中的安全保证挑战。
• 提出一种动态风险管理框架，持续监控系统状态和环境条件以检测风险。
• 利用运行时指标和威胁建模进行实时风险评估，量化在不断演变的操作情境中的风险水平。
• 集成反馈机制，根据当前风险水平和系统目标触发自适应缓解策略。
• 利用现有模块化组件（如运行时验证、异常检测和基于模型的推理）实现可扩展的实施。
• 设计该框架以具备可扩展性，支持与现有安全标准的集成，同时能够对未预见的运行条件进行运行时自适应。

实验结果

研究问题

• RQ1 如何在传统静态安全方法无法覆盖的范围内，有效维持高度自主和协同式网络物理系统（CPS）的安全保证？
• RQ2 需要哪些体系结构和运行时机制，才能实现在动态CPS环境中的持续风险评估？
• RQ3 如何将现有安全组件整合进统一的、自适应的风险管理框架中用于CPS？
• RQ4 实时反馈在系统运行过程中调整风险缓解策略方面发挥什么作用？
• RQ5 与传统的、部署前的安全验证相比，动态风险管理在哪些方面改善了安全结果？

主要发现

• 所提出的动态风险管理框架实现了对自主和协同式CPS的持续安全验证，克服了静态安全标准的局限性。
• 利用运行时指标进行实时风险评估，可在系统运行期间及时检测到新兴的安全威胁。
• 由风险监控反馈触发的自适应缓解策略，增强了系统对未预见运行变化的韧性。
• 将现有安全构建模块整合进动态框架，支持在复杂CPS环境中实现可扩展性和可扩展性。
• 该方法通过实现更高水平的自动化并确保安全可验证性，支持实现经济、生态和社会效益。
• 该框架能够随系统行为和环境条件演化，确保开放和互连系统中的长期安全。