[论文解读] Qualitative Propagation and Scenario-based Explanation of Probabilistic Reasoning

Max Henrion, Marek J. Drużdżel|arXiv (Cornell University)|Mar 27, 2013

Bayesian Modeling and Causal Inference参考文献 10被引用 10

一句话总结

本文提出了两种互补的方法——定性信念传播与基于情景的解释，以提升贝叶斯网络中概率推理的可解释性。它引入了一种基于因果反向推理的定性传播算法，以及一种利用合理因果情景的解释方法，使用户能够通过直观、人类可读的叙述理解证据如何影响概率，而无需具备数值专业知识。

ABSTRACT

Comprehensible explanations of probabilistic reasoning are a prerequisite for wider acceptance of Bayesian methods in expert systems and decision support systems. A study of human reasoning under uncertainty suggests two different strategies for explaining probabilistic reasoning: The first, qualitative belief propagation, traces the qualitative effect of evidence through a belief network from one variable to the next. This propagation algorithm is an alternative to the graph reduction algorithms of Wellman (1988) for inference in qualitative probabilistic networks. It is based on a qualitative analysis of intercausal reasoning, which is a generalization of Pearl's "explaining away", and an alternative to Wellman's definition of qualitative synergy. The other, Scenario-based reasoning, involves the generation of alternative causal "stories" accounting for the evidence. Comparing a few of the most probable scenarios provides an approximate way to explain the results of probabilistic reasoning. Both schemes employ causal as well as probabilistic knowledge. Probabilities may be presented as phrases and/or numbers. Users can control the style, abstraction and completeness of explanations.

研究动机与目标

• 为解决非专家用户理解贝叶斯网络中概率推理的挑战。
• 开发超越数值输出的替代解释机制，以支持专家系统与决策支持系统中的决策制定。
• 在解释生成中整合因果与概率知识，以提升透明度。
• 允许用户控制解释的抽象程度、完整性和风格。
• 通过合理的因果情景提供直观的、基于叙事的解释，以说明观察到的证据如何影响概率。

提出的方法

• 提出一种定性信念传播算法，通过信念网络追踪影响的符号（正/负），避免完整的数值计算。
• 以因果反向推理为基础，将Pearl的“解释消除”现象泛化，以推断证据的定性影响。
• 提出对Wellman定性协同作用的替代方法，聚焦于多个原因对共同结果的定性影响。
• 通过识别并排序最可能的因果故事来生成基于情景的解释，以说明观察到的证据。
• 结合定性概率短语（如“可能”、“不太可能”）与数值，以支持灵活的解释风格。
• 采用因果与概率知识的混合表示，以指导解释生成，并确保与网络结构的一致性。

实验结果

研究问题

• RQ1 如何以直观且对非专家用户友好的方式解释贝叶斯网络中的概率推理？
• RQ2 哪些定性机制可用于在不进行完整数值推理的情况下，传播证据在信念网络中的影响？
• RQ3 如何生成合理的因果叙事，以解释为何某些概率会因证据而更新？
• RQ4 因果反向推理在实现对概率依赖关系的定性理解中起到什么作用？
• RQ5 用户如何在保持准确性的前提下，控制解释的抽象程度与完整性？

主要发现

• 定性信念传播算法成功利用因果反向推理，在信念网络中追踪影响的方向（正向或负向），为完整推理提供计算高效的替代方案。
• 该方法提供了一种无需用户解读复杂数值概率即可解释证据如何影响信念的方式。
• 通过排序最可能的因果故事生成的基于情景的解释，提供了基于叙事的解释方式，增强了用户的理解。
• 该方法支持灵活的解释风格，允许用户在定性短语与数值概率之间进行选择。
• 因果与概率知识的整合使得解释具有一致性且可解释，与底层贝叶斯网络结构保持一致。
• 该框架在解释专家系统与决策支持系统中的推理过程方面被证明是有效的，尤其在透明度与可解释性至关重要的场景中。