[论文解读] SHAFF: Fast and consistent SHApley eFfect estimates via random Forests

Clément Bénard, Gérard Biau+2 more|arXiv (Cornell University)|May 25, 2021

Explainable Artificial Intelligence (XAI)参考文献 29被引用 16

一句话总结

SHAFF 是一种快速且一致的随机森林方法，用于估计 Shapley 效应，通过重要性采样和投影森林避免重新训练模型。即使在变量相关的情况下也能实现高精度，是首个在无需重新训练模型的前提下被证明一致的此类方法。

ABSTRACT

Interpretability of learning algorithms is crucial for applications involving critical decisions, and variable importance is one of the main interpretation tools. Shapley effects are now widely used to interpret both tree ensembles and neural networks, as they can efficiently handle dependence and interactions in the data, as opposed to most other variable importance measures. However, estimating Shapley effects is a challenging task, because of the computational complexity and the conditional expectation estimates. Accordingly, existing Shapley algorithms have flaws: a costly running time, or a bias when input variables are dependent. Therefore, we introduce SHAFF, SHApley eFfects via random Forests, a fast and accurate Shapley effect estimate, even when input variables are dependent. We show SHAFF efficiency through both a theoretical analysis of its consistency, and the practical performance improvements over competitors with extensive experiments. An implementation of SHAFF in C++ and R is available online.

研究动机与目标

• 解决高维设置下精确 Shapley 效应估计因指数复杂度导致的计算不可行性。
• 克服现有 Shapley 估计方法在输入变量相关时产生的偏差。
• 开发一种快速、一致且实用的算法，专门用于随机森林的 Shapley 效应估计。
• 为可解释机器学习提供准确的变量重要性评估，特别是在医疗等高风险应用中。
• 提供一个框架，通过扩展至 SHAP 值支持全局和局部解释。

提出的方法

• 使用重要性采样，沿随机森林路径优先选择变量子集，减少所需条件方差估计的数量。
• 应用投影森林算法，无需重新训练即可高效计算给定任意变量子集的条件期望。
• 利用随机森林的结构，仅通过一次森林拟合即可估计所有子集 $U$ 的 $\mathbb{V}[\mathbb{E}[Y|\mathbf{X}^{(U)}]]$。
• 将组合权重 $\frac{1}{p} \binom{p-1}{|U|}^{-1}$ 整合到估计中，确保对所有子集的无偏平均。
• 在温和正则性条件下证明估计量的一致性，建立理论保证，且无需重新训练模型。
• 通过基于条件均值的有序类别分割，将方法扩展至分类变量，如 ranger 中所实现。

实验结果

研究问题

• RQ1 能否在使用随机森林时，使依赖输入变量的 Shapley 效应估计既快速又一致？
• RQ2 在 Shapley 估计中避免重复模型训练是否能保持准确性和一致性？
• RQ3 SHAFF 与当前最先进的方法（如 TreeSHAP、SAGE 和 pMC）相比，在误差和运行时间方面表现如何？
• RQ4 对于具有大量类别的分类变量，SHAFF 能否准确估计 Shapley 效应，而 MDI 已知对此类变量存在偏差？
• RQ5 投影森林方法是否足以实现所有变量子集上快速且准确的条件期望估计？

主要发现

• 在 pMC/Forest 实验中，SHAFF 的累积绝对误差最低（0.19），优于 TreeSHAP 和 SAGE。
• 在分类变量实验中，SHAFF 正确估计了 $X^{(5)}$ 和 $X^{(6)}$ 的零 Shapley 效应，而 MDI 和 SAGE 对高基数变量表现出强烈偏差。
• 在 pMC/Projected-RF 实验中，SHAFF 的误差保持在较低水平（0.29），证明了其在条件期望估计中的鲁棒性。
• 该算法运行速度显著快于竞争对手，仅需一次森林拟合，而其他方法需要多次重新训练步骤。
• SHAFF 是首个在温和假设下无需重新训练多个模型即可证明一致性的 Shapley 估计方法。
• 由于投影森林可提供条件预测，该方法可自然扩展至 SHAP 值。