[论文解读] Disentangled Attribution Curves for Interpreting Random Forests and Boosted Trees

Summer Devlin, Chandan Singh+2 more|arXiv (Cornell University)|May 18, 2019

Explainable Artificial Intelligence (XAI)参考文献 26被引用 11

一句话总结

本文提出解耦归因曲线（DAC），一种用于树集成模型（如随机森林和AdaBoost）的多变量重要性曲线生成方法，可将单个特征效应与其交互效应解耦。DAC提供可解释的、依赖取值的特征重要性曲线，在恢复条件期望方面优于现有方法，并在作为特征工程输入时可提升逻辑回归的准确率。

ABSTRACT

Tree ensembles, such as random forests and AdaBoost, are ubiquitous machine learning models known for achieving strong predictive performance across a wide variety of domains. However, this strong performance comes at the cost of interpretability (i.e. users are unable to understand the relationships a trained random forest has learned and why it is making its predictions). In particular, it is challenging to understand how the contribution of a particular feature, or group of features, varies as their value changes. To address this, we introduce Disentangled Attribution Curves (DAC), a method to provide interpretations of tree ensemble methods in the form of (multivariate) feature importance curves. For a given variable, or group of variables, DAC plots the importance of a variable(s) as their value changes. We validate DAC on real data by showing that the curves can be used to increase the accuracy of logistic regression while maintaining interpretability, by including DAC as an additional feature. In simulation studies, DAC is shown to out-perform competing methods in the recovery of conditional expectations. Finally, through a case-study on the bike-sharing dataset, we demonstrate the use of DAC to uncover novel insights into a dataset.

研究动机与目标

• 为解决随机森林和AdaBoost等树集成模型缺乏可解释性的问题，这些模型会掩盖特征及其交互作用对预测的贡献。
• 开发一种后处理解释方法，将单个特征重要性与交互效应解耦，克服标量特征重要性评分的局限性。
• 提供一种可视化与定量工具，用于理解特征重要性如何随特征取值变化，实现对模型的深入检查。
• 通过特征工程验证DAC在提升下游模型性能方面的实用性，特别是在线性模型中的应用。
• 展示DAC在真实数据集中揭示新颖、直观洞察的能力，例如在共享单车数据集中。

提出的方法

• DAC通过在所有树上对模型预测进行平均，仅对感兴趣特征的取值进行条件化，计算特征重要性作为特征取值的函数。
• 对于单个特征，DAC生成一维曲线，展示重要性如何随特征取值变化，反映局部平均模型行为。
• 对于特征对，DAC生成二维热力图，可视化联合取值范围内的交互重要性，捕捉非线性依赖关系。
• 该方法采用非参数、模型无关的方法，利用决策树的结构计算局部平均值，无需重新训练模型。
• DAC作为后处理方法应用于训练好的树集成模型，与任何现有的随机森林或提升树模型兼容。
• 该方法基于条件期望估计，其中重要性定义为模型预测值与总体均值的偏差，条件于特征取值。

实验结果

研究问题

• RQ1 DAC能否有效解耦树集成模型中单个特征重要性与交互效应？
• RQ2 与PDP和基于置换的重要性方法相比，DAC在估计模型预测真实条件期望方面表现如何？
• RQ3 DAC生成的特征能否提升简单模型（如逻辑回归）的预测准确率，同时保持可解释性？
• RQ4 DAC能否揭示真实世界数据集（如共享单车数据集）中的新颖、可操作的洞察？
• RQ5 在模拟研究中，DAC对特征相关性和不同数据分布的鲁棒性如何？

主要发现

• 在模拟研究中，DAC在估计条件期望方面始终优于部分依赖图（PDP）和基于置换的重要性方法，所有数据分布下的均方误差（MSE）均低25%–40%。
• 在共享单车数据集中，DAC显示：在节假日期间，'小时'特征的重要性在通勤高峰时段下降，表明通勤流量减少，与领域直觉一致。
• DAC发现'温度'与'风速'之间的交互作用几乎无非线性成分，其二维曲线与单个一维曲线的叠加高度一致。
• 当将DAC曲线用作逻辑回归的附加特征时，模型的泛化准确率显著提升，证明其在特征工程中的实用性。
• 在高度相关的特征设置下，DAC保持了准确的重要性估计，而PDP和基于置换的方法性能显著下降。
• 该方法在玩具示例中成功捕捉了XOR型交互作用，对单个特征赋予零重要性，但对它们的共同存在赋予完全重要性，正确反映了底层模型结构。