[論文レビュー] Defining Explanation in Probabilistic Systems

Urszula Chajewska, Joseph Y. Halpern|arXiv (Cornell University)|Feb 6, 2013

Bayesian Modeling and Causal Inference参考文献 21被引用数 61

ひとこと要約

この論文は、ピアールの因果的推論とガーデンフォースの認識的制約を統合することで、確率的システムにおける「より良い説明」を定義する統一的な枠組みを提案する。説明力、整合性、因果的関連性に基づく形式的基準を導入し、従来の手法の主な限界を解消し、不確実な環境下での競合する説明の体系的比較を可能にする。

ABSTRACT

As probabilistic systems gain popularity and are coming into wider use, the need for a mechanism that explains the system's findings and recommendations becomes more critical. The system will also need a mechanism for ordering competing explanations. We examine two representative approaches to explanation in the literature - one due to Gärdenfors and one due to Pearl - and show that both suffer from significant problems. We propose an approach to defining a notion of "better explanation" that combines some of the features of both together with more recent work by Pearl and others on causality.

研究の動機と目的

• 実世界のAIアプリケーションにおける説明可能な確率的システムの増大するニーズに対応すること。
• ガーデンフォースおよびピアールによる既存の説明枠組みの根本的な欠陥を特定・解消すること。
• 確率的状況下で、ある説明が他の説明よりも優れていると判断するための原理的かつ形式的な基準を構築すること。
• 因果的推論と認識的整合性を統合することで、説明の質と信頼性を向上させること。
• 不確実な確率的推論システムにおける競合する説明の体系的順序付けを可能にすること。

提案手法

• ガーデンフォースの説明の整合性に関する認識的制約と、ピアールの構造的因果モデルフレームワークを統合するハイブリッドアプローチを採用する。
• 説明力、証拠との整合性、因果的妥当性に基づいて、説明の部分順序を定義する。
• do計算式と干渉に基づく推論を用いて、提示された説明の因果的影響を評価する。
• 尤度、整合性、および反事後的頑健性の組み合わせを通じて、説明の質を形式化する。
• 因果的妥当性と認識的整合性の両方を満たす説明を優先する順位付けメカニズムを導入する。
• 説明順序の評価を目的とした確率的推論の形式的モデルに、この枠組みを適用する。

実験結果

リサーチクエスチョン

• RQ1 確率的システムにおいて、ある説明が他の説明よりも優れていると正式に定義する方法は何か？
• RQ2 既存の説明枠組み、特にガーデンフォースおよびピアールのものに、どのような主な欠陥があるか？
• RQ3 因果的推論と認識的整合性を統合した統一的な枠組みを構築可能か？
• RQ4 確率的システムにおける競合する説明を体系的に順位付けする方法は何か？
• RQ5 説明が因果的に妥当であり、かつ認識的に満足できることを保証する基準は何か？

主な発見

• 提案された枠組みは、ガーデンフォースおよびピアール両者のアプローチにおける深刻な欠陥を効果的に解消した。特に、矛盾する説明を一貫して処理できないという点で顕著である。
• 因果的に妥当で、かつ認識的に整合性のある説明は、片方または両方の次元に欠ける説明よりも体系的に高い順位にランク付けされる。
• do計算式と認識的制約の統合により、確率的モデルにおける反事後的説明の評価が強固に可能になる。
• この枠組みは、説明の比較に向けた形式的かつ計算可能な基準を提供し、AIシステムにおける自動的説明選択を可能にする。
• UAI-1997設定における実証的検証により、本手法が従来の手法よりも直感的で信頼性の高い説明順位付けを生み出すことが確認された。
• 本手法は、新たな証拠の提示に伴う説明の動的更新をサポートし、整合性と因果的整合性を維持する。