[論文レビュー] From Verification to Causality-based Explications

Christel Baier, Clemens Dubslaff+5 more|arXiv (Cornell University)|May 20, 2021

Formal Methods in Verification参考文献 88被引用数 4

ひとこと要約

この論文は形式的検証における因果的推論を調査し、Halpern-Pearlの因果性、Shapley値に基づく責任、確率的因果性を統合することで、従来のモデル検査を拡張するフレームワークを提案する。システムがなぜそのように振る舞うかを説明するために、確率的要因（p-cause）の形式的定義を導入し、異なる因果性概念の関係を確立することで、非確率的および確率的モデルにおけるシステム行動のより深い理解を可能にする。

ABSTRACT

In view of the growing complexity of modern software architectures, formal models are increasingly used to understand why a system works the way it does, opposed to simply verifying that it behaves as intended. This paper surveys approaches to formally explicate the observable behavior of reactive systems. We describe how Halpern and Pearl's notion of actual causation inspired verification-oriented studies of cause-effect relationships in the evolution of a system. A second focus lies on applications of the Shapley value to responsibility ascriptions, aimed to measure the influence of an event on an observable effect. Finally, formal approaches to probabilistic causation are collected and connected, and their relevance to the understanding of probabilistic systems is discussed.

研究の動機と目的

• 複雑なソフトウェアシステムにおける正しさの検証を超えた、因果的説明の増大するニーズに対応すること。
• 実際の因果性や責任といった定性的および定量的因果性概念を形式化し、統一することで、形式的検証における応用を可能にすること。
• 確率的システム、特にマルコフ連鎖を含む、決定論的モデルから確率的システムへの因果的推論を拡張すること。確率上昇および反事後的原則を用いる。
• 非決定的モデル（マルコフ決定過程）および部分的に観測可能なシステム（隠れマルコフモデル）における因果的検証の未解決課題を特定すること。

提案手法

• 反応系における実際の因果性を定義するために、HalpernとPearlの構造方程式モデルおよび反事後論理を採用する。
• 確率的要因（p-cause）を、性質の確率を少なくともpに上昇させるマルコフ連鎖における接頭辞として導入し、最小性および反事後的依存を保証する条件を設ける。
• 責任を測定するためにShapley値を適用し、協力理論的枠組み内でエージェントの成果への寄与度を測定する。
• グローバル、ローカル、p-原因を公理的条件（PAC1, PAC2, PAC3）を用いて形式化し、反事後的根拠を持つ確率的因果性を定式化する。
• 因果性概念間の論理的含意関係を確立する：p-cause ⇒ ローカルPR-cause ⇒ グローバルPR-cause、特に単一要因の場合に有効。
• ω-正則言語における可測な経路集合を用いて、確率的モデル検査の文脈で数学的厳密性を保証する。

実験結果

リサーチクエスチョン

• RQ1 形式的因果性概念をどのように活用することで、正しさの検証を超えてシステムがなぜそのように振る舞うかを説明できるか？
• RQ2 マルコフ連鎖における確率的要因を識別する形式的基準は何か？ そして、それらは反事後的推論とどのように関係するか？
• RQ3 Shapley値をどのように応用して、個々のエージェントのシステム行動における責任を測定できるか？
• RQ4 確率的モデルにおけるグローバル、ローカル、p-原因の主な違いと関係は何か？
• RQ5 非決定的および部分的に観測可能な確率的システムへの因果的推論を拡張するにあたり、どのような未解決課題があるか？

主な発見

• 任意のDTMCにおけるω-正則性の性質について、任意のp ∈ (0,1]に対してp-原因が存在する。1-原因は、性質を確実に成立させる接頭辞が存在するため、常に存在する。
• p > Pr(ℒ) を満たすp-原因はローカルPR-原因を含み、ローカルPR-原因はグローバルPR-原因を含む。これにより、因果性概念の階層が確立される。
• 原因が単一の要素である場合、ローカルPR-原因とグローバルPR-原因は等価であり、対称的な状況での責任評価が簡略化される。
• PAC3条件により、原因が存在しない場合に効果が確率0で発生することを要求することで、反事後的依存が保証され、反事後論理が確率的因果性に組み込まれる。
• 高影響度のシステムイベントを特定することで、ランタイムモニタリングや確率的デバッグへの実用的応用を支援する。
• マルコフ決定過程や隠れマルコフモデルへの因果性の拡張は、状態やイベントが完全に観測できないため、顕著な未解決問題を同定している。