[논문 리뷰] Assurance of System Safety: A Survey of Design and Argument Patterns

Mario Gleirscher, Stefan Kugele|arXiv (Cornell University)|2019. 02. 14.

Safety Systems Engineering in Autonomy참고 문헌 136인용 수 5

한 줄 요약

이 논문은 지난 20년간 시스템 안전성 설계 및 추론 패턴을 종합적으로 검토하며, 그 특성, 목적 및 상호 관계를 바탕으로 안전성 패턴의 분류 체계를 제안한다. 안전성 주장에 대한 패턴 영향 연구의 부족, 안전성의 국소적 고려사항으로의 분해, 안전성과 보안 간의 상호작용에 대한 연구 미흡을 지적하며, 보다 나은 확증 사례 구성과 조합적 검증을 위해 통합된 형식적 프레임워크와 실용적 통합을 촉구한다.

ABSTRACT

The specification, design, and assurance of safety encompasses various concepts and best practices, subject of reuse in form of patterns. This work summarizes applied research on such concepts and practices with a focus on the last two decades and on the state-of-the-art of patterns in safety-critical system design and assurance argumentation. We investigate several aspects of such patterns, for example, where and when they are applied, their characteristics and purposes, and how they are related. For each aspect, we provide an overview of relevant studies and synthesize a taxonomy of first principles underlying these patterns. Furthermore, we comment on how these studies address known challenges and we discuss suggestions for further research. Our findings disclose a lack of research on how patterns improve system safety claims and, vice versa, on the decomposition of system safety into separated local concerns, and on the impact of security on safety.

연구 동기 및 목표

• 최근 20년간 시스템 안전공학에서 사용된 설계 및 추론 패턴을 통합하고 분류하는 것.
• 특히 안전성 주장 및 조합적 추론과 관련하여 안전성 패턴의 재사용 및 검증에 있어 핵심 과제를 규명하는 것.
• 안전성과 보안 간의 상호작용을 탐색하고, 안전성 및 보안 패턴에 대한 통합 연구의 부족을 분석하는 것.
• 형식적 검증과 지식 재사용을 지원하기 위한 안전성 개념의 통합적 의미론적 프레임워크를 제안하는 것.
• 안전성 역패턴, 산업 실무, 로봇 및 자율 시스템과 같은 신규 분야의 적용 등 아직 탐색되지 않은 분야를 규명하여 향후 연구를 이끌어내는 것.

제안 방법

• 설계 및 확증 추론에 중점을 둔 학술 및 산업 문헌에 대한 체계적 조사 수행.
• 응용 맥락, 특성, 목적 및 다른 패턴들과의 관계를 기반으로 패턴 분석.
• 안전공학, 신뢰성공학, 시스템 아키텍처의 통찰을 바탕으로 안전성 패턴의 핵심 원리에 대한 분류 체계 통합.
• 기존 연구의 형식적 모델링, 의미 정밀도 및 패턴의 조합적 검증 처리 여부 평가.
• 형식적 검증이 가능하도록 설계 패턴과 안전 계약의 쌍으로서 안전성 패턴을 표현하는 개념적 모델 제안.
• 기존 문헌의 격차를 철저히 분석하여 향후 연구 방향 도출, 특히 통합 지식 기반과 산업 피드백 루프의 필요성 강조.

실험 결과

연구 질문

• RQ1 안전성 패턴은 현재 시스템 설계 및 확증 사례 구성에서 어떻게 적용되고 있으며, 그 핵심 특성과 관계는 무엇인가?
• RQ2 기존 안전성 패턴이 시스템 안전성 주장을 얼마나 향상시키는가? 그 영향은 어떻게 형식적으로 측정하거나 검증할 수 있는가?
• RQ3 패턴을 통해 시스템 안전성을 재사용 가능한 국소적 고려사항으로 분해하는 데 있어 현재의 한계는 무엇인가?
• RQ4 보안과 안전성 패턴의 통합이 복잡한 시스템의 확증에 어떤 영향을 미치며, 이 격차를 메우기 위해 필요한 연구는 무엇인가?
• RQ5 안전성, 신뢰성, 보안 공학 개념을 통합된 의미론적 프레임워크로 통합하여 패턴 재사용을 지원하기 위한 가장 효과적인 길은 무엇인가?

주요 결과

• 안전성 패턴이 시스템 안전성 주장을 어떻게 향상시키는지 또는 국소적이고 관리 가능한 고려사항으로 안전성을 분해하는 데 기여하는지에 대한 연구가 상당히 부족하다.
• 보안이 안전성에 미치는 영향은 여전히 미흡하게 다뤄져 있으며, 보안과 안전성 패턴 간의 상호작용을 다룬 연구는 거의 없다.
• 다양한 형식적 언어가 연구 간에 사용됨에 따라 안전성 패턴 간 비교 및 조합적 검증이 어렵다.
• 특히 확률적 또는 논리 기반 모델을 포함한 안전성 개념의 형식적 모델링은 확증 증명 의무를 충족시키는 데 가장 높은 잠재력을 보인다.
• 일致하고 재사용 가능한 안전성 패턴 개발을 지원하기 위해 안전성, 신뢰성, 보안, 인간 요소 공학을 통합한 통합 지식 기반의 필요성이 있다.
• 향후 연구는 산업 안전 실무의 실증적 연구, 안전성 역패턴 개발, 그리고 로봇 및 자율 시스템과 같은 신규 분야로 패턴 분류 체계를 확장하는 데 우선순위를 두어야 한다.