[论文解读] groupShapley: Efficient prediction explanation with Shapley values for feature groups

Martin Jullum, Annabelle Redelmeier+1 more|arXiv (Cornell University)|Jun 23, 2021

Explainable Artificial Intelligence (XAI)被引用 11

一句话总结

本文提出了 groupShapley 方法，通过为分组特征计算 Shapley 值，降低计算复杂度并提升机器学习解释的可解释性。通过将特征聚类为有意义的组别（如人口统计、车辆信息或驾驶历史类别），该方法即使在拥有数百个特征的情况下，也能实现高效、准确且直观的预测解释，同时在特定条件下保持理论性质。

ABSTRACT

Shapley values has established itself as one of the most appropriate and theoretically sound frameworks for explaining predictions from complex machine learning models. The popularity of Shapley values in the explanation setting is probably due to its unique theoretical properties. The main drawback with Shapley values, however, is that its computational complexity grows exponentially in the number of input features, making it unfeasible in many real world situations where there could be hundreds or thousands of features. Furthermore, with many (dependent) features, presenting/visualizing and interpreting the computed Shapley values also becomes challenging. The present paper introduces groupShapley: a conceptually simple approach for dealing with the aforementioned bottlenecks. The idea is to group the features, for example by type or dependence, and then compute and present Shapley values for these groups instead of for all individual features. Reducing hundreds or thousands of features to half a dozen or so, makes precise computations practically feasible and the presentation and knowledge extraction greatly simplified. We prove that under certain conditions, groupShapley is equivalent to summing the feature-wise Shapley values within each feature group. Moreover, we provide a simulation study exemplifying the differences when these conditions are not met. We illustrate the usability of the approach in a real world car insurance example, where groupShapley is used to provide simple and intuitive explanations.

研究动机与目标

• 解决在具有数百甚至数千个特征的高维机器学习模型中，Shapley 值存在的指数级计算复杂度问题。
• 克服在特征存在依赖关系或数量众多时，解释单个 Shapley 值的挑战。
• 提供一种计算上可行且概念上简洁的局部模型解释方法，同时保持理论上的严谨性。
• 实现直观的基于分组的解释，使其在实际应用中更易于可视化和传达。
• 在包含混合特征类型和依赖关系的复杂真实数据集中，展示该方法的实用性。

提出的方法

• 根据领域知识或依赖结构，将特征划分为有意义的类别（例如，个人信息、车辆信息、驾驶历史等）。
• 计算每个组的 Shapley 值，而非单个特征，从而将所需计算量从指数级降低至可管理的水平。
• 使用基于条件期望的贡献函数 $ v(\mathcal{S}) = \mathbb{E}[f(\bm{x}) \mid \bm{x}_{\mathcal{S}} = \bm{x}^*_{\mathcal{S}}] $，以正确处理特征之间的依赖关系。
• 证明当组内特征可交换或相互独立时，groupShapley 等于组内所有个体 Shapley 值之和。
• 采用条件推理树来估计混合连续、离散和分类特征情况下的条件期望。
• 在 R 包 `shapr`（开发版本）中实现该方法，以支持实际应用。

实验结果

研究问题

• RQ1 分组特征是否能在显著降低计算成本的同时，保留 Shapley 值的理论性质？
• RQ2 在何种条件下，groupShapley 值等于组内个体 Shapley 值之和？
• RQ3 当特征依赖关系违反等价性条件时，groupShapley 在实际应用中的表现如何？
• RQ4 与单个特征的 Shapley 值相比，groupShapley 是否能在真实机器学习应用中生成更具可解释性和可操作性的解释？
• RQ5 groupShapley 在处理高维、混合类型数据，包含缺失值和复杂依赖关系时，效果如何？

主要发现

• 当特征数量超过几十个时，groupShapley 为个体特征 Shapley 值提供了一种计算上可行的替代方案。
• 在组内特征可交换或相互独立的条件下，groupShapley 在数学上等价于组内所有个体 Shapley 值之和。
• 在具有依赖关系的特征模拟中，groupShapley 值与个体值之和产生偏差，凸显了分组结构在解释中的重要性。
• 在一个包含 23 个特征的真实汽车保险数据集中，groupShapley 生成了符合领域预期的直观、基于分组的解释（例如，驾驶记录和个人信息组具有显著影响）。
• 该方法有效处理了混合特征类型、缺失数据（通过预测均值匹配法处理）以及复杂依赖关系，如在 AUC 为 0.815 的随机森林模型中所展示的。
• groupShapley 方法实现了对模型预测的清晰可视化与解释，如图 4 所示，四名个体的组贡献始终与现实世界预期一致。