[논문 리뷰] Formal Specification and Analysis of Autonomous Systems under Partial Compliance

Jeremy Morse, Dejanira Araiza-Illan외 3명|arXiv (Cornell University)|2016. 03. 03.

Advanced Software Engineering Methodologies참고 문헌 22인용 수 5

한 줄 요약

이 논문은 부분적 준수 상황에서 자율 시스템을 명시하고 분석하기 위한 형식적 방법을 제안한다. 부분적으로 순서가 정렬된 사양의 격자 구조를 사용하여 약화된 시스템 사양을 모델링한다. 시스템을 매개변수화된 마르코프 결정 과정(MDP)으로 모델링하고, PRISM에서 확률적 모델 체크를 적용함으로써, 다양한 사양 수준에서 기능적 요구사항을 충족할 확률을 계산하여, 동적인 환경에서 복원력과 내구성의 최적 트레이드오프를 파라메트릭으로 규명한다.

ABSTRACT

The widespread adoption of autonomous systems depends on providing guarantees of safety and functional correctness, at both design time and runtime. Information about the extent to which functional requirements can be met in combination with non-functional requirements (NFRs) -- i.e. requirements that can be partially complied with -- , under dynamic and uncertain environments, provides opportunities to enhance the safety and functional correctness of systems at design time. We present a technique to formally define system attributes that can change or be changed to deal with dynamic and uncertain environments (denominated weakened specifications) as a partially ordered lattice, and to automatically explore the system under different specifications, using probabilistic model checking, to find the likelihood of satisfying a requirement. The resulting probabilities form boundaries of "optimal specifications", analogous to Pareto frontiers in multi-objective optimization, informing the designer about the system's capabilities, such as resilience or robustness, when changing its attributes to deal with dynamic and uncertain environments. We illustrate the proposed technique through a domestic robotic assistant example.

연구 동기 및 목표

• 불확실하고 동적인 환경에서 비기능 요구사항(NFRs)에 대한 탄력적인 준수를 지원하는 형식적 사양 프레임워크의 부족을 보완한다.
• 비기능 요구사항 준수와 기능 요구사항 충족 간의 트레이드오프를 정량화함으로써 자율 시스템의 체계적 설계 공간 탐색을 가능하게 한다.
• 배포 이전에 시스템 설계의 타당성과 복원력을 평가할 수 있는 형식적이고 분석 가능한 프레임워크를 제공하여 런타임 복구 메커니즘에 대한 의존도를 감소시킨다.
• 탄력적인 요구사항 모델링과 형식적 검증 사이의 격차를 메우기 위해 격자 기반 사양을 확률적 모델 체크와 통합한다.
• 불확실성 하에서 작업 성공 확률을 최대화하는 최적의 사양 구성 요건을 식별함으로써 내구성 있는 자율 시스템 설계를 지원한다.

제안 방법

• 속도 제한, 배터리 잔량 등 시스템 속성을 부분적으로 순서가 정렬된 격자 내의 원소로 정의하여 약화된 사양을 표현한다.
• 자율 시스템과 그 동적인 불확실한 환경을 매개변수화된 마르코프 결정 과정(MDP)으로 모델링하여 비결정성과 확률적 성격을 포괄한다.
• 기능 요구사항을 시간 논리 성질로 표현하여 다양한 격자 기반 사양 하에서 평가한다.
• PRISM 확률적 모델 체커를 사용하여 모든 시스템 정책과 환경 행동에 대해 각 요구사항을 충족할 최소 확률을 계산한다.
• 격자를 순회하여 만족 확률이 임계값 이하에서 이 이상으로 전환되는 경계(Pr < ρ에서 Pr ≥ ρ로 전환)를 식별하고, 최적의 사양 경계를 형성한다.
• 도출된 확률 경계를 분석하여 비기능 요구사항의 완화와 기능 준수 사이에서 최선의 트레이드오프를 제공하는 구성 요건을 식별한다.

실험 결과

연구 질문

• RQ1 어떻게 부분적 준수를 가능하게 하는 동적인 불확실한 환경에서의 비기능 요구사항에 대한 형식적 사양을 정의할 수 있는가?
• RQ2 설계 시점에 사양 완화가 기능 요구사항 충족에 미치는 영향을 체계적으로 분석할 수 있는 방법은 무엇인가?
• RQ3 복원력, 내구성, 작업 성공 확률을 균형 있게 유지하는 최적의 사양 구성 요건을 어떻게 식별할 수 있는가?
• RQ4 완전한 런타임 모니터링이나 장애 복구를 요구하지 않고 설계 공간 탐색을 지원할 수 있는 형식적 기법은 무엇인가?
• RQ5 격자 기반 사양과 확률적 모델 체크를 어떻게 통합하여 시스템 능력에 대한 정량적 통찰을 제공할 수 있는가?

주요 결과

• 격자 기반 사양은 시스템 속성을 완화함으로써 불확실성 하에서 기능 요구사항 준수를 향상시키는 설계 대안의 체계적 탐색을 가능하게 한다.
• PRISM에서의 확률적 모델 체크는 다양한 사양 수준에서 작업 성공 확률의 최소값을 성공적으로 계산하여 시스템 신뢰성의 정량적 측정치를 제공한다.
• 이 방법은 만족 확률이 임계값을 초과하는 경계, 즉 최적의 사양 경계를 식별하여 설계자가 복원력과 내구성을 극대화하는 구성 요건을 선택할 수 있도록 한다.
• 주택용 로봇 어시스턴트 사례 연구에서, 특정 NFRs(예: 속도 제한)를 완화함으로써 안전성을 해치지 않으면서도 작업 완료 확률이 크게 증가하는 것으로 드러났다.
• 도출된 확률 경계는 다목적 최적화에서의 파레토 경계와 유사한 설계 경계를 형성하며, 시스템 구성에 대한 실질적인 통찰을 제공한다.
• 이 방법은 소규모 시스템에서는 전체 격자 탐색이 가능하고, 복잡한 시스템에서는 부분 세그먼트 분석이 가능하여 실제 자율 시스템에 대한 실용적 적용을 가능하게 한다.