[論文レビュー] Assurance of System Safety: A Survey of Design and Argument Patterns

Mario Gleirscher, Stefan Kugele|arXiv (Cornell University)|Feb 14, 2019

Safety Systems Engineering in Autonomy参考文献 136被引用数 5

ひとこと要約

この論文は、過去20年間におけるシステムセーフティ分野の設計および議論のパターンを調査し、その特徴、目的、関係性に基づいてセーフティパターンの分類法を提案する。セーフティ・クレームへのパターンの影響、セーフティの局所的関心事への分解、セーフティとセキュリティの相互作用に関する研究の空白を特定し、保証ケース構築および合成的検証の向上を目指して、統合的で形式的なフレームワークと実践的統合の必要性を提言する。

ABSTRACT

The specification, design, and assurance of safety encompasses various concepts and best practices, subject of reuse in form of patterns. This work summarizes applied research on such concepts and practices with a focus on the last two decades and on the state-of-the-art of patterns in safety-critical system design and assurance argumentation. We investigate several aspects of such patterns, for example, where and when they are applied, their characteristics and purposes, and how they are related. For each aspect, we provide an overview of relevant studies and synthesize a taxonomy of first principles underlying these patterns. Furthermore, we comment on how these studies address known challenges and we discuss suggestions for further research. Our findings disclose a lack of research on how patterns improve system safety claims and, vice versa, on the decomposition of system safety into separated local concerns, and on the impact of security on safety.

研究の動機と目的

• 過去20年間におけるシステムセーフティ工学で用いられる設計および議論のパターンを統合・分類すること。
• 特にセーフティクレームへの影響および合成的推論に関する再利用と検証の課題を特定すること。
• セーフティとセキュリティの相互作用を検討し、セーフティとセキュリティのパターン統合に関する研究の不足を明らかにすること。
• 形式的検証と知識再利用を支援するための、セーフティ概念の統合的意味的フレームワークを提案すること。
• 将来の研究を導くために、セーフティアンチパターン、産業的実践、およびロボット工学や自律システムなどの新興分野への応用といった未開拓分野を特定すること。

提案手法

• 設計および保証的議論に関する学術的・産業的文献の体系的サーベイを実施する。
• 応用文脈、特徴、目的、他のパターンとの関係性に基づいてパターンを分析する。
• セーフティ工学、信頼性工学、システムアーキテクチャの知見を統合し、セーフティパターンの第一原理を体系化する。
• 既存の研究が、パターンの形式的モデリング、意味的正確性、合成的検証の観点でどの程度扱っているかを評価する。
• 形式的検証を可能にするために、セーフティパターンを「設計パターン」と「セーフティ契約」のペアとして表現する概念的モデルを提言する。
• 研究の空白を批判的に分析することで、統合的知識ベースと産業フィードバックループの必要性を明らかにする。

実験結果

リサーチクエスチョン

• RQ1 現在、セーフティパターンはどのようにシステム設計および保証ケース構築に応用されており、その主な特徴と関係性は何か？
• RQ2 既存のセーフティパターンは、どの程度システムのセーフティクレームを向上させているのか？その影響は形式的に測定または検証可能か？
• RQ3 パターンを用いたセーフティの再利用可能で局所的な関心事への分解に、現在どのような制限があるか？
• RQ4 セキュリティとセーフティのパターン統合は、複雑なシステムの保証にどのように影響するのか？このギャップを埋めるために必要な研究は何か？
• RQ5 セーフティ、信頼性、セキュリティ工学の概念を統合的に意味的フレームワークに統合するための最も効果的な道筋は何か？

主な発見

• セーフティパターンがシステムのセーフティクレームにどのように寄与しているか、あるいはセーフティを局所的で管理可能な関心事へ分解するかに関する研究が著しく不足している。
• セキュリティがセーフティに与える影響は未だ十分に調査されておらず、セキュリティとセーフティのパターンの相互作用を扱う研究はほとんどない。
• 研究間で使用される形式的記法の多様性が、セーフティパターンの比較および合成的検証を困難にしている。
• 特に確率的または論理的モデルに基づくセーフティ概念の形式的モデリングは、保証証明義務を満たす上で最大の可能性を示している。
• 一貫性があり再利用可能なセーフティパターン開発を支援するため、セーフティ、信頼性、セキュリティ、人的要因工学を統合した統合的知識ベースの構築が不可欠である。
• 今後の研究は、産業的セーフティ実践の実証的調査、セーフティアンチパターンの開発、およびロボット工学や自律システムなどの新興分野へのパターン分類法の拡張を優先すべきである。