[论文解读] Formal Specification and Analysis of Autonomous Systems under Partial Compliance

Jeremy Morse, Dejanira Araiza-Illan+3 more|arXiv (Cornell University)|Mar 3, 2016

Advanced Software Engineering Methodologies参考文献 22被引用 5

一句话总结

本文提出一种形式化方法，用于在部分合规条件下指定和分析自主系统，采用弱化系统规范的部分有序格。通过将系统建模为参数化的马尔可夫决策过程，并在 PRISM 中应用概率模型检测，该方法计算不同规范层级下功能需求的满足概率，识别出类似于动态环境中韧性与鲁棒性帕累托前沿的最优权衡。

ABSTRACT

The widespread adoption of autonomous systems depends on providing guarantees of safety and functional correctness, at both design time and runtime. Information about the extent to which functional requirements can be met in combination with non-functional requirements (NFRs) -- i.e. requirements that can be partially complied with -- , under dynamic and uncertain environments, provides opportunities to enhance the safety and functional correctness of systems at design time. We present a technique to formally define system attributes that can change or be changed to deal with dynamic and uncertain environments (denominated weakened specifications) as a partially ordered lattice, and to automatically explore the system under different specifications, using probabilistic model checking, to find the likelihood of satisfying a requirement. The resulting probabilities form boundaries of "optimal specifications", analogous to Pareto frontiers in multi-objective optimization, informing the designer about the system's capabilities, such as resilience or robustness, when changing its attributes to deal with dynamic and uncertain environments. We illustrate the proposed technique through a domestic robotic assistant example.

研究动机与目标

• 解决在不确定、动态环境中缺乏支持非功能性需求（NFRs）灵活合规的形式化规范框架的问题。
• 通过量化非功能性需求合规性与功能需求满足之间的权衡，实现对自主系统设计空间的系统性探索。
• 提供一种形式化、可分析的框架，用于在部署前评估系统设计的可行性与韧性，减少对运行时恢复机制的依赖。
• 通过将基于格的规范与概率模型检测相结合，弥合灵活需求建模与形式化验证之间的差距。
• 通过识别在不确定性下最大化任务成功概率的最优规范配置，支持构建鲁棒的自主系统。

提出的方法

• 将系统属性（例如，速度限制、电池储备）定义为部分有序格中的元素，以表示弱化后的规范。
• 将自主系统及其动态、不确定的环境建模为参数化的马尔可夫决策过程（MDP），以捕捉非确定性与随机性。
• 将功能需求表示为需在不同基于格的规范下评估的时序逻辑性质。
• 使用 PRISM 概率模型检测工具，计算在所有系统策略与环境行为下，每个需求满足的最小概率。
• 遍历该格，识别满足概率从低于阈值（Pr < ρ）到高于阈值（Pr ≥ ρ）的过渡边界，形成最优规范前沿。
• 分析所得的概率边界，识别在非功能性需求放松与功能合规性之间提供最佳权衡的配置。

实验结果

研究问题

• RQ1 如何形式化指定系统属性，以在动态和不确定环境中实现对非功能性需求的部分合规？
• RQ2 如何在设计时系统性地分析规范弱化对功能需求满足的影响？
• RQ3 如何识别在韧性、鲁棒性与任务成功概率之间实现平衡的最优规范配置？
• RQ4 哪些形式化技术可支持设计空间探索，而无需依赖完整的运行时监控或故障恢复？
• RQ5 如何将基于格的规范与概率模型检测集成，以提供关于系统能力的定量洞察？

主要发现

• 基于格的规范支持对设计备选方案的系统性探索，其中通过放松系统属性可提升在不确定性下的功能需求合规性。
• 在 PRISM 中进行的概率模型检测成功计算出不同规范层级下任务成功概率的最小值，提供了系统可靠性的定量度量。
• 该方法识别出最优规范边界——即满足概率跨越阈值的区域——使设计者能够选择在韧性与鲁棒性方面表现最优的配置。
• 在家庭服务机器人助手案例研究中，该方法表明，适度放松某些 NFR（如速度限制）可显著提高任务完成概率，同时不损害安全性。
• 所得的概率边界构成一条设计前沿，类似于多目标优化中的帕累托前沿，为系统配置提供可操作的洞察。
• 该方法既支持在小型系统中进行完整格探索，也支持在复杂系统中进行部分片段分析，从而实现对现实世界自主系统的实用化应用。