[論文レビュー] Combining Counterfactuals With Shapley Values To Explain Image Models

Aditya Lahiri, Kamran Alipour+2 more|arXiv (Cornell University)|Jun 14, 2022

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

本稿では、対向的画像生成とシャープレー値を組み合わせることで、画像分類モデルに対する対照的で人間が理解可能な説明を提供する手法を提案する。事前学習済みのStyleGAN2と学習済みのシフト予測モデルを用い、高レベルの属性に基づいて対向的画像を生成することで、元の画像と対向的画像の予測差を説明するシャープレー値を計算する。これにより、理論的保証が強く、公理的かつ対照的な説明が可能となる。

ABSTRACT

With the widespread use of sophisticated machine learning models in sensitive applications, understanding their decision-making has become an essential task. Models trained on tabular data have witnessed significant progress in explanations of their underlying decision making processes by virtue of having a small number of discrete features. However, applying these methods to high-dimensional inputs such as images is not a trivial task. Images are composed of pixels at an atomic level and do not carry any interpretability by themselves. In this work, we seek to use annotated high-level interpretable features of images to provide explanations. We leverage the Shapley value framework from Game Theory, which has garnered wide acceptance in general XAI problems. By developing a pipeline to generate counterfactuals and subsequently using it to estimate Shapley values, we obtain contrastive and interpretable explanations with strong axiomatic guarantees.

研究の動機と目的

• 高次元の画像入力を機械学習モデルで説明する課題に対処し、ピクセルレベルの説明では人間の理解が困難であることを解決する。
• 従来のシャープレー値手法が画像モデルに適用される際の限界を克服する。特に、計算コストが高く、対照的文脈を欠いている点を改善する。
• 特定の高レベル属性を変更する対向的画像を生成することで、対照的かつ人間が理解可能な説明を提供する。
• 生成モデルとゲーム理論的帰属割り当てを活用し、公理的かつ公平で解釈可能な画像分類器の意思決定に対する説明を提供する。
• 最小限の学習設定で事前学習済みコンponentを用いることで、モデルに依存しないスケーラブルで忠実な画像予測の説明を可能にする。

提案手法

• 本手法は、指定された属性変更に従って潜在空間を操作することで、高解像度かつ現実的な対向的画像を生成する事前学習済みのStyleGAN2ジェネレータを用いる。
• シフト予測モデルを訓練し、解釈可能な属性（例：ハゲ、若々しさ）の変化を、StyleGAN2空間内の対応する潜在ベクトルの調整にマッピングする。
• パイプラインは、元の画像の潜在コードに学習済みのシフトを適用することで、現実的かつ意味的に整合性のある変更を加えた対向的画像を生成する。
• シャープレー値を計算し、元の画像と対向的画像の間でのモデル予測の差を説明する。この際、変更された属性を特徴として使用する。
• すべての可能なコалиションの平均化を避けるために、元の画像と対向的画像という2つの特定の画像を直接比較することで、理論的基盤が強く、公理的である対照的説明を提供する。
• VGGバックボーン上にマルチタスク分類器を用い、画像から解釈可能な属性を抽出する。これらの属性は、シフト予測モデルおよびシャープレー値計算の入力として使用される。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、画像データにおいて特定の高レベル属性を変更する意味的で現実的な対向的画像を生成できるか？
• RQ2 高レベルの解釈可能な特徴に基づいて計算されたシャープレー値は、ピクセルレベルの帰属割り当てよりも、より解釈可能で対照的な説明を提供できるか？
• RQ3 膨大な計算コストを伴わず、画像モデルにおけるシャープレー値をどのように効率的に計算できるか？
• RQ4 対向的生成とシャープレー値の組み合わせにより、理論的保証が強く、人間の認知と整合性のある説明が得られるか？
• RQ5 認知科学の支援に基づく対照的推論を組み込むことで、モデルの説明をどのように直感的にすることができるか？

主な発見

• 画像O₁において、ハゲ、男性性を増加させ、若々しさ、濃いメイク、金髪を減少させた結果、魅力度予測が0.73から0.12に低下し、0.61の低下を示した。
• ハゲが予測低下に-0.34の寄与を示し、低下要因として最大の要因であった。次に若々しさが-0.28の寄与を示した。
• 対向的画像C₄は、若々しさ、金髪、濃いメイクを増加させ、男性性とハゲを減少させることで生成され、これらの属性に正のシャープレー寄与が予測シフトを説明した。
• 本手法は、事前学習済みのStyleGAN2と軽量なシフト予測モデルのみを用いて、再学習や複雑な最適化を回避して現実的な対向的画像を生成できた。
• シャープレー値帰属割り当ては、人間の推論と整合する明確な対照的説明を提供し、特定の属性の変更がモデル予測に直接影響していることを示した。
• 最小限の学習で忠実かつ解釈可能な説明を達成した。VGGバックボーンを用いた属性予測と、1つのシフト予測モデルのみを用いた。