[論文レビュー] Debiasing Concept Bottleneck Models with Instrumental Variables

Mohammad Taha Bahadori, David Heckerman|arXiv (Cornell University)|Oct 4, 2020

Explainable Artificial Intelligence (XAI)参考文献 17被引用数 5

ひとこと要約

本稿では、概念バブルモデル（CBMs）のための因果的デバイアス化手法を、交絡要因の影響を軽減するために道具変数（IV）技術を用いて提案する。観察されない交絡要因をモデル化し、概念セットの完全性を保証することで、概念が不完全であっても予測の説明の質を向上させ、合成データおよび実世界の実験において優れた概念ランク付けとバイアス低減を実現する。

ABSTRACT

Concept-based explanation approach is a popular model interpertability tool because it expresses the reasons for a model's predictions in terms of concepts that are meaningful for the domain experts. In this work, we study the problem of the concepts being correlated with confounding information in the features. We propose a new causal prior graph for modeling the impacts of unobserved variables and a method to remove the impact of confounding information and noise using the instrumental variable techniques. We also model the completeness of the concepts set and show that our debiasing method works when the concepts are not complete. Our synthetic and real-world experiments demonstrate the success of our method in removing biases and improving the ranking of the concepts in terms of their contribution to the explanation of the predictions.

研究の動機と目的

• 観察されない交絡変数と相関する概念特徴が存在する場合に、モデルの解釈可能性が損なわれる問題に対処すること。
• 隠れた交絡要因を考慮することで、概念の真の効果を分離する因果的フレームワークを構築すること。
• 現実世界で一般的な制限である概念セットの不完全性に対しても、デバイアス化手法の頑健性を保証すること。
• ノイズや交絡による誤った相関を除去することで、概念ベースの説明の信頼性と公平性を向上させること。

提案手法

• 観察されない交絡要因が概念特徴とモデル予測に与える影響をモデル化する因果的事前グラフを導入する。
• 道具変数技術を適用して、交絡要因の影響を概念表現から同定および除去する。
• 概念セットの完全性を、IVアプローチの有効性に重要な要因としてモデル化し、関連する概念がすべて存在しない場合でも手法が有効であることを保証する。
• 2段階推定手順を用いる：まず、道具変数が概念に与える影響を推定し、次にそれを用いて予測モデルを補正する。
• 因果モデルを定式化し、道具変数が誤差項と条件付き独立であるが、内生的（endogenous）な概念特徴と相関するようにする。
• デバイアス化された概念表現をCBMフレームワークに統合し、より公平で正確な説明を生成する。

実験結果

リサーチクエスチョン

• RQ1 交絡要因が存在する状況下で、道具変数技術が概念ベースの説明からバイアスを効果的に除去できるか。
• RQ2 概念セットの完全性が、提案手法のパフォーマンスにどのように影響するか。
• RQ3 この手法は、予測への真の寄与度に基づいて概念のランク付けを改善できるか。
• RQ4 隠れた交絡要因が存在する合成データおよび実世界のデータ設定において、この手法はモデルパフォーマンスを維持または向上できるか。

主な発見

• 提案手法は、交絡要因からの因果的効果を分離することで、概念ベースの説明におけるバイアスを効果的に低減した。
• 概念セットが不完全であっても、因果的事前グラフを用いて欠落概念の影響をモデル化することで、手法の有効性を維持した。
• 誤った相関を低減することで概念のランク付けが改善され、顕著な概念の正確な同定が可能になった。
• 合成データでの実験では、ベースラインのCBM手法と比較して顕著なバイアス低減が確認された。
• 実世界のデータセットにおいては、説明の質と頑健性が向上し、概念の寄与度が真の因果要因とより一致するようになった。
• 交差要因が存在する状況下で、道具変数アプローチは標準的なCBM学習法に比べ、バイアス低減および予測の的中性の両面で優れた性能を示した。