[論文レビュー] Interpretation of multi-label classification models using shapley values

Shikun Chen|arXiv (Cornell University)|Apr 21, 2021

Text and Document Classification Technologies参考文献 17被引用数 14

ひとこと要約

本稿では、複数ラベル分類モデルを解釈するためのSHAPベースのフレームワークを提案し、シャープリー値を複数のラベルにわたる特徴寄与度を説明するために拡張する。実世界のデータセット（foodtruck、水質、イースト）を用いたBR、CC、MLKNNアルゴリズムにおいて、SHAPがグローバルな特徴重要度、ローカルな予測要因、およびラベル別影響を効果的に明らかにすることを示している。

ABSTRACT

Multi-label classification is a type of classification task, it is used when there are two or more classes, and the data point we want to predict may belong to none of the classes or all of them at the same time. In the real world, many applications are actually multi-label involved, including information retrieval, multimedia content annotation, web mining, and so on. A game theory-based framework known as SHapley Additive exPlanations (SHAP) has been applied to explain various supervised learning models without being aware of the exact model. Herein, this work further extends the explanation of multi-label classification task by using the SHAP methodology. The experiment demonstrates a comprehensive comparision of different algorithms on well known multi-label datasets and shows the usefulness of the interpretation.

研究の動機と目的

• データポイントが同時に複数のクラスに属する状況における、SHAP解釈の複数ラベル分類への拡張を目的とする。
• 異なる複数ラベル学習アルゴリズム（BR、CC、MLKNN）における特徴寄与度の説明方法を評価することを目的とする。
• モデル予測のグローバルおよびローカル解釈を提供し、実世界の機械学習応用における信頼性と透明性を高めることを目的とする。
• 多様な複数ラベルデータセットおよびモデルアーキテクチャにおけるSHAPの解釈性能を比較することを目的とする。
• 現在の解釈手法における限界を特定し、複数ラベルタスクにおけるモデル解釈の今後の研究を導くこと。

提案手法

• 各特徴についてラベルごとに独立してシャープリー値を計算することで、SHAPフレームワークを複数ラベル分類に適応する。
• SHAP式を用いる：$\phi_i = \frac{1}{|N|!} \sum_{S \subseteq N \setminus \{i\}} |S|! (|N| - |S| - 1)! [f(S \cup \{i\}) - f(S)] $、ここで$f(S)$は特徴サブセット$S$を用いたモデル出力である。
• 局所的説明にカーネルSHAPを採用し、入力特徴を変動させ、予測の変化を測定することで特徴寄与度を推定する。
• SHAPサマリープロット（インスタンス全体における特徴効果）、特徴重要度プロット（グローバルな特徴順位付け）、およびフォースプロット（ローカル予測分解）を用いて結果を可視化する。
• 3つの実世界データセット（foodtruck（12ラベル）、water quality（14ラベル）、yeast（14ラベル））と3つのアルゴリズム（BR、CC、MLKNN）にこの手法を適用する。
• 局所的説明の出発点として、すべての訓練予測の平均値（ベースライン予測）を用い、シャープリー値を特徴寄与度（予測を上向きまたは下向きに押し上げる力）として表現する。

実験結果

リサーチクエスチョン

• RQ1 複数ラベル分類モデルを複数のラベルにわたって効果的に解釈するために、SHAPをどのように拡張できるか？
• RQ2 SHAPを用いた場合、BR、CC、MLKNNアルゴリズム間で特徴重要度順位にどのような違いが生じるか？
• RQ3 SHAPは個々のラベル予測における特徴のローカル寄与度について、どのようなインサイトを提供するか？
• RQ4 異なる複数ラベルデータセットおよびモデルアーキテクチャ間で、SHAPの解釈はどれほど一貫性があるか？
• RQ5 特に特徴相関と計算コストの観点から、現在のSHAPベースの解釈手法における限界は何か？

主な発見

• SHAP特徴重要度プロットから、BRを用いたfoodtruckデータセットにおいて、平均収入（averageincome）が最も影響力のある特徴であり、その後に学歴（scholarity）と年齢層（agegroup）が続く。
• BRおよびCCモデルの上位4つの特徴はほぼ同一であるが、MLKNNは完全に異なる特徴重要度順位を示している。
• SHAPサマリープロットから、高温（std_temp）が高いと水質予測に強く正の影響を及ぼすことが判明し、CO2濃度が高いと負の影響を及ぼすことが示され、人間の直感と整合的である。
• ローカル解釈において、フォースプロットは、イーストデータセットのラベル13の予測を高める特徴（例：Att54、Att26、Att79）と低下させる特徴（例：Att99、Att34）を明らかにしている。
• サマリープロットにおけるBR、CC、MLKNN間の解釈パターンはほとんど一貫しており、異なるモデルタイプに対してもSHAPの堅牢性が示されている。
• 効果的である一方で、カーネルSHAPは大規模データセットでは計算が遅く、特徴相関は明示的にモデル化されていないため、解釈の正確性に影響を及ぼす可能性がある。