[论文解读] Unifying local and global model explanations by functional decomposition of low dimensional structures

Munir Hiabu, Joseph T. Meyer+1 more|arXiv (Cornell University)|Aug 12, 2022

Scientific Computing and Data Management参考文献 38被引用 7

一句话总结

本文提出了一种功能分解方法，通过将任意回归或分类函数表示为各阶主效应与交互效应之和，统一了局部（SHAP）与全局（部分依赖）解释。通过引入一种新型识别约束，该方法实现了干预型SHAP值与部分依赖图的精确计算，从而可在不重新训练模型的前提下，后处理移除涉及受保护特征的偏差成分，同时在低维或基于集成的模型中保持有效且可解释的模型解释。

ABSTRACT

We consider a global representation of a regression or classification function by decomposing it into the sum of main and interaction components of arbitrary order. We propose a new identification constraint that allows for the extraction of interventional SHAP values and partial dependence plots, thereby unifying local and global explanations. With our proposed identification, a feature's partial dependence plot corresponds to the main effect term plus the intercept. The interventional SHAP value of feature $k$ is a weighted sum of the main component and all interaction components that include $k$, with the weights given by the reciprocal of the component's dimension. This brings a new perspective to local explanations such as SHAP values which were previously motivated by game theory only. We show that the decomposition can be used to reduce direct and indirect bias by removing all components that include a protected feature. Lastly, we motivate a new measure of feature importance. In principle, our proposed functional decomposition can be applied to any machine learning model, but exact calculation is only feasible for low-dimensional structures or ensembles of those. We provide an algorithm and efficient implementation for gradient-boosted trees (xgboost) and random planted forest. Conducted experiments suggest that our method provides meaningful explanations and reveals interactions of higher orders. The proposed methods are implemented in an R package, available at \url{https://github.com/PlantedML/glex}.

研究动机与目标

• 将局部（SHAP）与全局（部分依赖）模型解释统一为一个单一、连贯的框架。
• 开发一种功能分解方法，以兼容干预型SHAP与部分依赖图的方式，识别任意阶的主效应与交互效应。
• 通过移除涉及受保护特征的组件，在不重新训练模型的前提下实现后处理偏差减少。
• 为低维或基于集成的模型（如XGBoost和随机森林）提供一种高效、精确的算法，用于计算q阶交互SHAP值。
• 引入一种新的、更细致的特征重要性度量方法，基于分解后的组件。

提出的方法

• 提出将模型函数分解为主效应与任意阶交互效应分量的功能分解方法。
• 引入一种新的识别约束，确保某一特征的部分依赖图恰好等于其主效应加上截距。
• 推导出干预型SHAP值为所有包含特定特征的分量的加权和，权重等于该分量维度的倒数。
• 利用此分解方法提取仅对共享特征子集依赖于具体样本的全局解释，从而实现局部与全局可解释性。
• 通过一种高效算法将该分解应用于树模型（XGBoost、随机森林），当最大交互阶数q较小时可精确计算分量。
• 通过将包含受保护特征的所有分量置零，实现后处理特征移除，从而消除其直接效应，同时保留通过相关特征产生的间接效应。

实验结果

研究问题

• RQ1 能否构建一个统一框架，同时支持局部（SHAP）与全局（部分依赖）模型解释？
• RQ2 如何对功能分解施加约束，以确保部分依赖图恰好等于主效应项加截距？
• RQ3 干预型SHAP值能否被重新解释为基于分量维度的主效应与交互效应分量的加权和？
• RQ4 在不重新训练模型的前提下，通过组件删除可多大程度上实现受保护特征的偏差后处理消除？
• RQ5 与标准方法相比，所提出的分解在揭示高阶交互效应及改进特征重要性评估方面有何优势？

主要发现

• 当最大交互阶数q较小时，所提出的分解方法可在树模型中精确计算q阶交互SHAP值，从而实现精确的局部与全局解释。
• 在所提出的识别约束下，某一特征的部分依赖图恰好等于其主效应项加截距。
• 特征k的干预型SHAP值在数学上等价于所有包含k的主效应与交互效应分量的加权和，权重为该分量维度的倒数。
• 在薪资预测模拟中，通过组件删除后处理移除性别特征后，男性与女性预测差距的中位数从29.79降至10.57；而由于性别与工作时长的相关性，重新训练模型未产生影响。
• 在Adult数据集上，男性与女性预测值的中位差从全模型下的0.13降至分解模型下的0.05，证明了有效的偏差缓解。
• 该方法成功揭示了高阶交互效应，并提供了比单一全局度量更细致的特征重要性理解。