[論文レビュー] Formal Specification and Analysis of Autonomous Systems under Partial Compliance

Jeremy Morse, Dejanira Araiza-Illan+3 more|arXiv (Cornell University)|Mar 3, 2016

Advanced Software Engineering Methodologies参考文献 22被引用数 5

ひとこと要約

本論文は、弱化されたシステム仕様の部分順序ラティスを用いて、部分的適合を伴う自律システムの形式的指定および分析のための手法を提案する。システムをパrameterized MDPとしてモデル化し、PRISMにおける確率的モデル検査を適用することで、さまざまな仕様レベルにおける機能的要件の満たし確率を計算し、動的環境におけるレジリエンスとロバストネスの最適なトレードオフ（パレートフロンティアに類似）を同定する。

ABSTRACT

The widespread adoption of autonomous systems depends on providing guarantees of safety and functional correctness, at both design time and runtime. Information about the extent to which functional requirements can be met in combination with non-functional requirements (NFRs) -- i.e. requirements that can be partially complied with -- , under dynamic and uncertain environments, provides opportunities to enhance the safety and functional correctness of systems at design time. We present a technique to formally define system attributes that can change or be changed to deal with dynamic and uncertain environments (denominated weakened specifications) as a partially ordered lattice, and to automatically explore the system under different specifications, using probabilistic model checking, to find the likelihood of satisfying a requirement. The resulting probabilities form boundaries of "optimal specifications", analogous to Pareto frontiers in multi-objective optimization, informing the designer about the system's capabilities, such as resilience or robustness, when changing its attributes to deal with dynamic and uncertain environments. We illustrate the proposed technique through a domestic robotic assistant example.

研究の動機と目的

• 不確実で動的変化する環境下で、非機能的要件（NFRs）に対する柔軟な適合をサポートする形式的指定フレームワークの不足に対処する。
• 非機能的要件の適合と機能的要件の満たし確率のトレードオフを定量的に評価することで、自律システムのシステマティックなデザインスペース探索を可能にする。
• 実行時回復メカニズムへの依存を減らすために、導入前の段階でシステム設計の実現可能性とレジリエンスを形式的かつ分析可能な枠組みで評価する。
• ラティスベースの仕様と確率的モデル検査を統合することで、柔軟な要件モデリングと形式的検証のギャップを埋める。
• 不確実性下でタスク成功確率を最大化する最適な仕様設定を同定することで、ロバストな自律システムの設計を支援する。

提案手法

• 速度制限やバッテリー残量などのシステム属性を、弱化された仕様を表す部分順序ラティスの要素として定義する。
• 自律システムとその動的かつ不確実な環境を、非決定性と確率的要素を捉えたパrameterized MDPとしてモデル化する。
• 機能的要件を、異なるラティスベースの仕様下で評価可能な時相論理的性質として表現する。
• PRISMによる確率的モデル検査を用いて、すべてのシステムポリシーと環境行動の下で各要件の満たし確率の最小値を計算する。
• ラティスを走査し、満たし確率が閾値（Pr < ρ から Pr ≥ ρ に変化する）に達する境界を特定し、最適な仕様フロンティアを形成する。
• 得られた確率境界を分析して、非機能的要件の緩和と機能的適合性の間で最良のトレードオフを提供する設定を同定する。

実験結果

リサーチクエスチョン

• RQ1 動的で不確実な環境下で、非機能的要件への部分的適合を許容するようなシステム属性を形式的に指定する方法は何か？
• RQ2 設計段階で、仕様の緩和が機能的要件の満たしに与える影響を体系的に分析する方法は何か？
• RQ3 レジリエンス、ロバストネス、およびタスク成功確率のバランスを取る最適な仕様設定を同定する方法は何か？
• RQ4 完全な実行時監視や障害回復を必要とせずに、デザインスペース探索を支援する形式的技法は何か？
• RQ5 ラティスベースの仕様と確率的モデル検査を統合することで、システム能力に関する定量的知見をどのように得られるか？

主な発見

• ラティスベースの仕様により、不確実性下での機能的要件の適合を向上させるためにシステム属性を緩和する設計代替案の体系的探索が可能になった。
• PRISMにおける確率的モデル検査により、さまざまな仕様レベルにおけるタスク成功確率の最小値が的確に計算され、システムの信頼性に関する定量的指標が得られた。
• 本手法により、満たし確率が閾値を超える境界（最適な仕様境界）が特定され、レジリエンスとロバストネスを最大化する設定の選定が可能になった。
• 家庭用ロボットアシスタントの事例研究において、特定のNFR（例：速度制限）を緩和することで、安全を損なわずタスク完了確率が顕著に向上することが明らかになった。
• 得られた確率境界は、多目的最適化におけるパレートフロンティアに類似した設計フロンティアを形成し、システム設定の意思決定に実用的かつ有用な知見を提供した。
• 本手法は、小規模なシステムではラティス全体の探索が可能であり、複雑なシステムでは部分的なセグメント分析も可能であるため、実世界の自律システムへの実用的応用が可能である。