[论文解读] Weight of Evidence as a Basis for Human-Oriented Explanations
本文提出了一种基于信息论中似然比权重（Weight of Evidence, WoE）概念的人类导向解释框架，该框架形式化了人类解释中观察到的对比性、选择性和累积性推理。通过将解释建模为条件加权证据的序列，该方法生成直观且具有概率基础的解释，其在可解释性和认知一致性方面优于标准的显著性或归因方法。
Interpretability is an elusive but highly sought-after characteristic of modern machine learning methods. Recent work has focused on interpretability via $ extit{explanations}$, which justify individual model predictions. In this work, we take a step towards reconciling machine explanations with those that humans produce and prefer by taking inspiration from the study of explanation in philosophy, cognitive science, and the social sciences. We identify key aspects in which these human explanations differ from current machine explanations, distill them into a list of desiderata, and formalize them into a framework via the notion of $ extit{weight of evidence}$ from information theory. Finally, we instantiate this framework in two simple applications and show it produces intuitive and comprehensible explanations.
研究动机与目标
- 通过识别哲学、认知科学和社会科学中的核心原则，弥合机器生成的解释与人类推理之间的差距。
- 将人类解释的理想特征——对比性、选择性和累积性结构——形式化为数学基础坚实的框架。
- 开发一种适用于复杂高维模型的通用解释方法，使其与人类认知偏好保持一致。
- 证明似然比权重（WoE）可作为生成直观且概率一致的解释的理论坚实且实际有效的基础。
提出的方法
- 将人类解释原则形式化为理想特征：对比性（相对于其他选项）、选择性（少量特征）和累积性结构（逐步推理）。
- 采用信息论中的似然比权重（WoE）作为核心数学基础，定义为某一假设相对于另一假设的证据的对数似然比。
- 将WoE扩展至条件形式和分层形式，以支持使用输入特征子集的多步、有序解释。
- 提出一种元算法（算法1），通过递归选择对比集（类别）和具有最大正则化WoE的特征子集来构建解释。
- 使用正则化项R(U)平衡特征集大小，避免解释过于稀疏或过于密集。
- 采用条件密度估计（如掩码自回归流）在模型为黑箱时估计WoE得分，利用训练数据和Oracle查询。
实验结果
研究问题
- RQ1如何使机器生成的解释更符合人类在推理和解释结构方面的认知偏好？
- RQ2何种数学框架最能捕捉人类解释的对比性、选择性和累积性特征？
- RQ3信息论中的似然比权重（WoE）能否作为复杂模型中生成人类可理解解释的合理基础？
- RQ4如何将WoE扩展以支持高维、多类别设置下的分层、多步解释？
- RQ5与标准显著性或归因方法相比，基于WoE的解释在可解释性方面提升了多少？
主要发现
- 所提出的基于WoE的框架成功生成了反映对比性推理（如“肺炎比感冒更可能”）、反事实推理和选择性特征聚焦的解释。
- 通过将证据分解为条件加权贡献，该方法生成了逐步推进且具有累积性的解释，模仿了人类的推理模式。
- 该框架通过将特征划分为有意义的属性集（如MNIST中的7×7像素块），处理高维输入，实现了可扩展的解释生成。
- 在MNIST上的实证评估表明，该方法即使在底层模型为黑箱时，也能生成连贯且直观的解释，与人类预期一致。
- 使用自回归密度模型的条件WoE能够准确估计证据权重，而无需访问模型内部结构。
- 元算法中的正则化项有效控制了解释的稀疏性，并防止对极端特征子集的过拟合。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。