[논문 리뷰] From Verification to Causality-based Explications

Christel Baier, Clemens Dubslaff외 5명|arXiv (Cornell University)|2021. 05. 20.

Formal Methods in Verification참고 문헌 88인용 수 4

한 줄 요약

이 논문은 형식적 검증에서 원인 기반 추론을 조사하며, 전통적인 모델 체킹에 할퍼ن-퍼럴 원인, 셰플리 값 기반 책임도구, 확률적 원인을 통합하여 *왜* 시스템이 그러한 방식으로 행동하는지 설명하는 프레임워크를 제안한다. 확률적 원인(p-causes)의 형식적 정의를 도입하고, 서로 다른 원인 개념 간의 관계를 수립하여 비확률적 및 스토케스틱 모델 모두에서 시스템 행동에 대한 깊이 있는 이해를 가능하게 한다.

ABSTRACT

In view of the growing complexity of modern software architectures, formal models are increasingly used to understand why a system works the way it does, opposed to simply verifying that it behaves as intended. This paper surveys approaches to formally explicate the observable behavior of reactive systems. We describe how Halpern and Pearl's notion of actual causation inspired verification-oriented studies of cause-effect relationships in the evolution of a system. A second focus lies on applications of the Shapley value to responsibility ascriptions, aimed to measure the influence of an event on an observable effect. Finally, formal approaches to probabilistic causation are collected and connected, and their relevance to the understanding of probabilistic systems is discussed.

연구 동기 및 목표

• 복잡한 소프트웨어 시스템에서 정확성 검증을 넘어서 원인 설명의 증가하는 필요성을 해결하기 위해.
• 실제 원인과 책임과 같은 정성적 및 정량적 원인 개념을 형식화하고 통합하여 형식적 검증에 활용하기 위해.
• 확률론적 원인 개념을 결정론적 모델에서 스토케스틱 시스템, 특히 마르코프 체인으로 확장하기 위해, 확률 증가 및 반사적 원리(Counterfactual principle)를 활용한다.
• 비결정론적 모델(Markov 결정 과정)과 부분적으로 관찰 가능한 시스템(숨은 마르코프 모델)을 포함한 원인 기반 검증의 열린 도전 과제를 규명하기 위해.

제안 방법

• 반응 시스템에서 실제 원인을 정의하기 위해 할퍼ن과 퍼럴의 구조 방정식 모델과 반사적 논리를 채택한다.
• 확률이 최소 p가 되도록 하는 마르코프 체인 내의 접두사로 p-causes를 도입하며, 최소성 및 반사적 의존성 조건을 충족시킨다.
• 셰플리 값을 적용하여 책임을 정량화하며, 협력 이론 프레임워크 내에서 개별 주체의 결과 기여도를 측정한다.
• 전역, 국소, p-causes를 축약 조건(PAC1, PAC2, PAC3)을 통해 정의하여 반사적 기반의 확률적 원인 개념을 형식화한다.
• 원인 개념 간의 논리적 함의를 수립한다: p-cause ⇒ 국소 PR-cause ⇒ 전역 PR-cause, 특히 단일 원인의 경우에 대해.
• 확률적 모델 체킹 맥락에서 수학적 엄밀성을 확보하기 위해 ω-정규 언어 내의 가측 경로 집합을 사용한다.

실험 결과

연구 질문

• RQ1 형식적 원인 개념은 시스템 행동의 *왜*를 초과하여 정확성 검증을 넘어서 어떻게 설명하는 데 사용될 수 있는가?
• RQ2 마르코프 체인에서 확률적 원인을 식별하는 형식적 기준은 무엇이며, 반사적 추론과의 관계는 어떠한가?
• RQ3 셰플리 값은 개별 주체의 시스템 행동 기여도를 측정하는 데 어떻게 적용될 수 있는가?
• RQ4 확률적 모델에서 전역, 국소, p-causes 간의 주요 차이점과 관계는 무엇인가?
• RQ5 비결정론적 및 부분적으로 관찰 가능한 스토케스틱 시스템으로 원인 기반 추론을 확장하는 데 있어 열린 과제는 무엇인가?

주요 결과

• DTMC에서 임의의 ω-정규 성질에 대해 모든 p ∈ (0,1]에 대해 p-causes가 존재하며, 1-cause는 항상 존재한다. 이는 성질가 거의 확실히 참이 되게 하는 접두사가 존재하기 때문이다.
• p > Pr(ℒ)인 p-causes는 국소 PR-causes를 유도하며, 국소 PR-causes는 전역 PR-causes를 유도함으로써 원인 개념 간의 계층을 확립한다.
• 원인이 단일 원소일 경우, 국소 및 전역 PR-causes는 동치이며, 대칭적인 경우 책임 평가가 단순해진다.
• PAC3 조건은 원인이 없을 경우 효과가 발생할 확률이 0임을 요구함으로써 반사적 의존성을 보장하며, 이는 반사적 논리를 확률적 원인 개념에 통합한다.
• 높은 영향도를 가진 시스템 이벤트를 식별함으로써 런타임 모니터링 및 확률적 디버깅과 같은 실용적 응용을 지원한다.
• 논문은 마르코프 결정 과정과 은폐된 마르코프 모델로의 원인 개념 확장을 포함하여 중대한 열린 문제를 규명한다. 이 경우 상태 또는 사건이 완전히 관찰되지 않을 수 있다.