[论文解读] Interpretation of multi-label classification models using shapley values

Shikun Chen|arXiv (Cornell University)|Apr 21, 2021

Text and Document Classification Technologies参考文献 17被引用 14

一句话总结

本文提出了一种基于SHAP的框架，用于解释多标签分类模型，将Shapley值扩展至多标签场景，以揭示特征对多个标签的贡献。实验表明，SHAP能有效揭示全局特征重要性、局部预测影响以及在real-world数据集（如foodtruck、water quality和yeast）上使用BR、CC和MLKNN算法时的标签特异性影响。

ABSTRACT

Multi-label classification is a type of classification task, it is used when there are two or more classes, and the data point we want to predict may belong to none of the classes or all of them at the same time. In the real world, many applications are actually multi-label involved, including information retrieval, multimedia content annotation, web mining, and so on. A game theory-based framework known as SHapley Additive exPlanations (SHAP) has been applied to explain various supervised learning models without being aware of the exact model. Herein, this work further extends the explanation of multi-label classification task by using the SHAP methodology. The experiment demonstrates a comprehensive comparision of different algorithms on well known multi-label datasets and shows the usefulness of the interpretation.

研究动机与目标

• 将SHAP解释方法扩展至多标签分类任务，其中数据点可同时属于多个类别。
• 评估SHAP在不同多标签学习算法（BR、CC、MLKNN）中解释特征贡献的效果。
• 提供模型预测的全局与局部可解释性，提升真实世界机器学习应用中的信任度与透明度。
• 比较SHAP在多样化多标签数据集与模型架构上的可解释性表现。
• 识别当前解释方法在多标签任务中的局限性，并为未来模型可解释性研究提供指导。

提出的方法

• 通过独立计算每个特征在所有标签上的Shapley值，将SHAP框架适配至多标签分类任务。
• 使用SHAP公式：$\phi_i = \frac{1}{|N|!} \sum_{S \subseteq N \setminus \{i\}} |S|! (|N| - |S| - 1)! [f(S \cup \{i\}) - f(S)] $，其中$f(S)$为使用特征子集$S$时的模型输出。
• 采用kernel SHAP进行局部解释，通过扰动输入特征并测量预测变化来估计特征归因。
• 利用SHAP摘要图（跨实例的特征影响）、特征重要性图（全局特征排序）和力量图（局部预测分解）进行结果可视化。
• 将该方法应用于三个real-world数据集：foodtruck（12个标签）、water quality（14个标签）和yeast（14个标签），并使用三种算法：BR、CC和MLKNN。
• 以基线预测（所有训练预测的均值）作为局部解释的起点，Shapley值表示特征贡献作为推动预测上升或下降的“力”。

实验结果

研究问题

• RQ1 如何有效将SHAP扩展至多标签分类模型，以解释多个标签上的特征贡献？
• RQ2 在使用SHAP时，BR、CC和MLKNN算法的特征重要性排序有何差异？
• RQ3 SHAP为单个标签预测中特征的局部贡献提供了哪些洞察？
• RQ4 SHAP解释在不同多标签数据集与模型架构之间的一致性如何？
• RQ5 当前基于SHAP的多标签设置解释方法存在哪些局限性，特别是在特征相关性与计算成本方面？

主要发现

• SHAP特征重要性图显示，在使用BR算法时，foodtruck数据集中averageincome是影响最大的特征，其次是scholarity和agegroup。
• BR和CC模型的前四大重要特征几乎完全相同，但MLKNN展现出完全不同的特征重要性排序。
• SHAP摘要图揭示，高std_temp对water quality预测有显著正向影响，而高co2水平则有负向影响——与人类直觉一致。
• 在局部解释中，力量图显示，在yeast数据集中，特定特征如Att54、Att26和Att79会增加标签13的预测值，而Att99和Att34则会降低其预测值。
• 在摘要图中，BR、CC和MLKNN的解释模式总体一致，表明SHAP在不同模型类型间具有鲁棒性。
• 尽管SHAP效果显著，kernel SHAP在大规模数据集上计算速度较慢，且未显式建模特征相关性，可能影响解释的保真度。