[論文レビュー] Debiasing Concept-based Explanations with Causal Analysis

Mohammad Taha Bahadori, David Heckerman|arXiv (Cornell University)|Jul 22, 2020

Explainable Artificial Intelligence (XAI)参考文献 18被引用数 8

ひとこと要約

本稿では、因果的デビアス化手法を提案し、機械学習における概念ベースの説明に対して、道具変数文献からの二段階回帰手法を用いて共変量とノイズを除去する。観測されない共変量をモデル化し、ラベルを道具変数として活用することで、合成データおよび実世界のデータセットにおいて、概念が不完全な場合でも説明の質と予測精度が向上する。

ABSTRACT

Concept-based explanation approach is a popular model interpertability tool because it expresses the reasons for a model's predictions in terms of concepts that are meaningful for the domain experts. In this work, we study the problem of the concepts being correlated with confounding information in the features. We propose a new causal prior graph for modeling the impacts of unobserved variables and a method to remove the impact of confounding information and noise using a two-stage regression technique borrowed from the instrumental variable literature. We also model the completeness of the concepts set and show that our debiasing method works when the concepts are not complete. Our synthetic and real-world experiments demonstrate the success of our method in removing biases and improving the ranking of the concepts in terms of their contribution to the explanation of the predictions.

研究の動機と目的

• 観測されない共変量や概念表現におけるノイズによって引き起こされる特徴量と概念の間の誤った相関関係を解消すること。
• 潜在的共変量と概念の不完全性が概念表現に与える影響をモデル化する因果的事前分布グラフの構築。
• ラベルを道具変数として活用することで、共変量の影響を除去し、概念ベースの説明の忠実性を向上させること。
• 概念ボトルネックモデル（CBM）およびTCAVにおいて、デビアスドされた概念ベクトルを用いてラベル予測の精度を向上させること。
• CUB-200-2011などの実世界のデータセットを含め、真値が確認できる合成データと実データ上で、本手法の有効性を検証し、概念の順序付けと説明の質の向上を示すこと。

提案手法

• 観測されない共変量が特徴量、概念、ラベルに与える影響をモデル化する新しい因果的事前分布グラフを提案し、概念の不完全性も考慮する。
• 道具変数文献からの二段階回帰手法を用い、ラベルを道具変数として活用することで、概念表現のデビアス化を実現する。
• 第一段階：ラベルを道具変数として用いて共変量を除去したデビアスドされた概念を推定する。第二段階：特徴量からこれらのデビアスドされた概念を予測する。第三段階：それらを用いてラベルを予測する。
• 概念の完全性を明示的にモデル化し、概念セットが包括的でない場合でも本手法が有効であることを示す。
• 必要に応じて、概念が捉えきれていない特徴量の残存予測情報の特定を行い、欠落または不完全な概念の検出を可能にする。
• 概念ボトルネックモデル（CBM）およびTCAVフレームワーク内に本手法を適用し、解釈可能性と予測性能の向上を図る。

実験結果

リサーチクエスチョン

• RQ1 特徴量と概念の関係における共変量とノイズを効果的に除去することで、概念ベースの説明の質が向上するか。
• RQ2 提案された因果的事前分布グラフは、観測されない共変量と概念の不完全性が概念表現に与える影響をどのようにモデル化するか。
• RQ3 ラベルを道具変数として用いることで、共変量の存在下で概念の回復精度とラベル予測精度がどの程度向上するか。
• RQ4 デビアス化手法により、モデル予測への貢献度に基づく概念の順序付けがどの程度改善されるか。
• RQ5 CUB-200-2011などの実世界の視覚データセットにおいて、本手法が解釈可能性と予測性能を向上させるか。

主な発見

• 真値が確認できる合成データにおいて、共変量とノイズが存在する状況下でも、デビアス化手法は真の概念の回復精度を顕著に向上させる。
• CUB-200-2011データセットにおいて、標準的な概念ボトルネックモデルよりも、本手法は予測への貢献度に基づく概念の順序付けをより正確に実現する。
• 共変量による特徴量と概念の誤った相関の影響を低減することで、CBMにおけるラベル予測精度が向上する。
• 定性的な例から、デビアス化により文脈に依存するアーチファクトが除去され、より忠実で解釈可能な概念ベースの説明が得られることを示す。
• 二段階回帰アプローチは、概念が完全でない場合でも、共変量とノイズの影響を効果的に除去する。
• ラベルを道具変数として用いることで、共変量に混ざった特徴量からの真の予測信号が明確に分離され、モデルの解釈性が向上する。