[논문 리뷰] Assurance 2.0: A Manifesto

Robin Bloomfield, John Rushby|arXiv (Cornell University)|2020. 04. 22.

Safety Systems Engineering in Autonomy참고 문헌 19인용 수 4

한 줄 요약

Assurance 2.0는 공식적 추론, 증거 평가, 체계적 결함 요소 분석을 보장 사례에 통합함으로써 체계적 신뢰성에 대한 엄격하고 동적인 프레임워크를 제안한다. 이는 추론, 확인 이론, 불가역성 기준을 통해 전통적 보장을 강화하여 타당하고 투명하며 감사 가능한 체계 신뢰성에 대한 주장 보장을 보장한다.

ABSTRACT

System assurance is confronted by significant challenges. Some of these are new, for example, autonomous systems with major functions driven by machine learning and AI, and ultra-rapid system development, while others are the familiar, persistent issues of the need for efficient, effective and timely assurance. Traditional assurance is seen as a brake on innovation and often costly and time consuming. We therefore propose a modernized framework, Assurance 2.0, as an enabler that supports innovation and continuous incremental assurance. Perhaps unexpectedly, it does so by making assurance more rigorous, with increased focus on the reasoning and evidence employed, and explicit identification of defeaters and counterevidence.

연구 동기 및 목표

• 현대 시스템, 특히 AI 기반 및 빠르게 개발되는 시스템에서 발생하는 보장 문제의 증가를 다루기 위해 기존의 보장 방식이 느리고 혁신을 저해한다는 점을 해결하기 위해.
• 보장을 후행 검증 단계에서부터 통합적이고 구성적인 설계 활동으로 전환하여 지속적인 점진적 보장을 지원하기 위해.
• 공식적 추론, 명시적 증거 평가, 의심과 반론(결함 요소)의 체계적 규명을 통해 보장을 강화하기 위해.
• 인증을 지원할 수 있는 프레임워크를 구축하기 위해 주장이 단지 가능성 있는 것이 아니라 타당하고 불가역적인 것을 보장하기 위해, 문서화된 추론과 모든 신뢰할 수 있는 반론에 대한 반박이 이루어지도록 하기 위해.

제안 방법

• 모호성과 오류를 줄이기 위해 다섯 가지 표준화된 논증 블록(증거 통합, 계산, 분해, 대체, 구체화)을 포함한 주장-논거-증거(CAE) 구조를 채택하기 위해.
• 논증 단계를 가능한 한 연역적으로 유지하고, 완전성과 요소(예: 구성 요소 또는 위험 요소)에 대한 분포를 보장하기 위해 철저한 부가 조건을 요구하기 위해.
• 증거의 무게를 평가하기 위해 확인 이론을 적용하여 주장과 그 반대 또는 대안 주장 사이의 차별화를 보장하기 위해.
• 모든 추론 단계가 증거에서 최상위 수준의 주장으로 추적 가능하도록 보장하기 위해 자연어 연역주의(NLD)를 구현하기 위해.
• 대화적 추론과 반론을 통해 양식적 결함 요소(기각 유형 및 반박 유형)를 체계적으로 규명하고 문서화하며 이를 제거하기 위해.
• 시스템 모델 및 이론적 기초(예: 정적 분석)를 보장 사례 자체에서 분리하여 주장 조립과 평가에 집중할 수 있도록 하기 위해.

실험 결과

연구 질문

• RQ1 AI 및 자율 시스템 분야의 혁신을 지원하면서도 엄격함을 훼손하지 않도록 보장을 어떻게 재구조화할 수 있는가?
• RQ2 보장 논증이 단지 가능성 있는 것이 아니라 타당하고 불가역적인지를 보장하기 위해 어떤 메커니즘이 필요한가?
• RQ3 체계적인 반론과 결함 요소 탐색을 통해 보장에서의 확인 편향을 어떻게 완화할 수 있는가?
• RQ4 표준화된 논증 템plate와 증거 가중치는 보장 사례의 신뢰성과 감사 가능성 향상에 어떤 역할을 하는가?
• RQ5 보장이 정적인 후행 활동에서부터 시스템 개발에 통합된 동적인 지속적 과정으로 어떻게 진화할 수 있는가?

주요 결과

• Assurance 2.0는 완전하고 잘 정당화된 증거에 기반한 연역적 추론 단계를 요구함으로써 더 신뢰할 수 있고 투명한 보장을 가능하게 한다.
• 엄격한 부가 조건을 갖춘 다섯 가지 표준화된 논증 블록을 사용함으로써 보장 사례 구성의 모호성과 오류를 감소시킨다.
• 확인 이론을 적용함으로써 증거가 주장뿐만 아니라 그 대안과의 차별화를 보장함으로써 지식론적 강도를 향상시킨다.
• 불가역성 기준은 모든 알려진 의심과 반론을 명시적으로 다루고, 검토되지 않은 의심이 없음을 문서화함으로써 주장의 정당화를 강화한다.
• 결함 요소와 그에 대한 반론 또는 설계 조정을 체계적으로 문서화함으로써 보장 사례의 회복력과 감사 가능성이 향상된다.
• 향후 도구를 통한 결함 요소 탐지, 논증 구성, 대화적 평가 자동화를 지원함으로써 복잡한 시스템에서의 확장 가능한 보장을 위한 길을 열어 놓는다.