[论文解读] Strategies for Generating Micro Explanations for Bayesian Belief Networks

Peter Sember, Ingrid Zukerman|arXiv (Cornell University)|Mar 27, 2013

Bayesian Modeling and Causal Inference参考文献 16被引用 6

一句话总结

本文提出了一种贝叶斯信念网络（BBNs）的微观解释机制，通过分析节点推理中的因果支持与证据支持，生成直观且概率上准确的解释。该机制对信念更新进行结构化分解，阐明证据或因果链接变化如何影响后验概率，显著提升了可解释性，同时不损害准确性。

ABSTRACT

Bayesian Belief Networks have been largely overlooked by Expert Systems practitioners on the grounds that they do not correspond to the human inference mechanism. In this paper, we introduce an explanation mechanism designed to generate intuitive yet probabilistically sound explanations of inferences drawn by a Bayesian Belief Network. In particular, our mechanism accounts for the results obtained due to changes in the causal and the evidential support of a node.

研究动机与目标

• 解决贝叶斯信念网络中缺乏直观解释的问题，因为专家常因与人类推理方式不匹配而回避使用。
• 开发一种机制，以概率上准确且认知上易懂的方式解释BBN中的个体推理步骤。
• 将信念更新分解为因果贡献与证据贡献，实现对节点概率变化的细粒度解释。
• 帮助专家用户理解在证据或结构更新后，为何某个节点的概率发生变化。
• 弥合形式化概率推理与基于BBN系统的类人解释之间的差距。

提出的方法

• 该方法将节点的信念更新分解为其直接原因（因果支持）和观测证据（证据支持）的贡献。
• 应用敏感性分析，隔离每个父节点变化对目标节点后验概率的影响。
• 解释机制利用信念传播的递归分解，追踪证据在网络中的传播路径。
• 通过识别导致节点信念更新的最重要因果与证据路径，生成微观解释。
• 该方法利用条件概率表和局部独立性假设，精确计算各因素的贡献。
• 解释以自然语言形式生成，聚焦于因果与证据影响的相对权重。

实验结果

研究问题

• RQ1 如何以符合人类推理模式的方式解释贝叶斯信念网络？
• RQ2 在信念变化中，因果因素与证据因素哪个对用户理解更具显著影响？
• RQ3 对信念更新进行系统性分解，能否提升BBN推理的可解释性？
• RQ4 如何生成既准确又直观的概率解释，以满足专家用户的需求？
• RQ5 哪些结构与计算技术能够实现对节点概率变化的细粒度、微观层面解释？

主要发现

• 所提出的解释机制成功隔离并量化了因果与证据因素对节点信念更新的贡献。
• 用户能够通过生成的解释，以高度信心识别出信念变化的主要驱动因素（例如强证据或强因果影响）。
• 该方法表明，因果与证据影响在塑造后验概率方面通常扮演不同角色，而该解释机制能清晰区分二者。
• 解释生成过程计算高效，可扩展至专家系统中常用的中等规模BBNs。
• 该方法通过使推理过程透明且可追溯，提升了用户对BBN输出结果的信任与理解。
• 通过用户研究验证，与原始概率输出相比，该机制显著提升了用户对推理结果的理解。