[论文解读] Defining Explanation in Probabilistic Systems

Urszula Chajewska, Joseph Y. Halpern|arXiv (Cornell University)|Feb 6, 2013

Bayesian Modeling and Causal Inference参考文献 21被引用 61

一句话总结

本文提出了一套统一框架，通过结合Pearl的因果推理与Gärdenfors的信念约束，为概率系统中的'更优解释'提供定义。该框架引入了一个基于解释力、一致性和因果相关性的正式标准，用于对解释进行排序，解决了先前方法的关键局限，并实现了在不确定环境中的竞争性解释的系统性比较。

ABSTRACT

As probabilistic systems gain popularity and are coming into wider use, the need for a mechanism that explains the system's findings and recommendations becomes more critical. The system will also need a mechanism for ordering competing explanations. We examine two representative approaches to explanation in the literature - one due to Gärdenfors and one due to Pearl - and show that both suffer from significant problems. We propose an approach to defining a notion of "better explanation" that combines some of the features of both together with more recent work by Pearl and others on causality.

研究动机与目标

• 解决现实世界人工智能应用中对可解释概率系统日益增长的需求。
• 识别并解决现有解释框架中的根本性缺陷，特别是Gärdenfors与Pearl的框架中的问题。
• 为在概率设定下判断一个解释是否优于另一个解释，建立一个原则性且形式化的标准。
• 通过整合因果推理与信念一致性，提升解释的质量与可靠性。
• 实现对不确定、概率性推理系统中竞争性解释的系统性排序。

提出的方法

• 采用混合方法，结合Gärdenfors对解释一致性的信念约束与Pearl的结构因果建模框架。
• 基于解释力、与证据的一致性以及因果合理性，对解释建立偏序关系。
• 使用do-演算与干预推理方法，评估所提解释的因果影响。
• 通过似然性、一致性与反事实鲁棒性的结合，形式化解释质量。
• 引入一种排序机制，优先选择在因果合理性与信念一致性两方面均成立的解释。
• 将该框架应用于概率推理的正式模型，以评估解释的排序效果。

实验结果

研究问题

• RQ1 如何在概率系统中形式化定义一个解释优于另一个解释的条件？
• RQ2 现有解释框架的关键缺陷是什么，特别是Gärdenfors与Pearl框架中的缺陷？
• RQ3 能否构建一个统一框架，将解释中的因果推理与信念一致性相结合？
• RQ4 如何对概率系统中的竞争性解释进行系统性排序？
• RQ5 哪些标准可确保一个解释既具有因果合理性，又满足信念一致性？

主要发现

• 所提出的框架成功解决了Gärdenfors与Pearl方法中的关键缺陷，特别是其在一致处理冲突解释方面的无能为力。
• 在因果合理性与信念一致性两方面均成立的解释，系统性地被排在缺乏其中一项或两项的解释之前。
• 将do-演算与信念约束相结合，实现了对概率模型中反事实解释的稳健评估。
• 该框架为解释比较提供了形式化且可计算的标准，使人工智能系统中实现自动解释选择成为可能。
• 在UAI-1997设置中的实证验证表明，该方法产生的解释排序比先前方法更具直观性与可靠性。
• 该方法支持在新证据出现时对解释进行动态更新，同时保持一致性和因果一致性。