[論文レビュー] Generating Interpretable Counterfactual Explanations By Implicit Minimisation of Epistemic and Aleatoric Uncertainties

Lisa Schut, Oscar Key+5 more|arXiv (Cornell University)|Mar 16, 2021

Explainable Artificial Intelligence (XAI)被引用数 13

ひとこと要約

本稿では、補助的生成モデルを必要とせず、分類器におけるエピステミックおよびアレアトリック不確実性を暗黙的に最小化することで、解釈可能な対向説明（CEs）を生成するホワイトボックス手法を提案する。このアプローチにより、CEの現実性と明確性が向上し、MNISTおよび表形式データセットにおいて最先端のIM1スコアを達成しながら、摂動の最小性についても競争力を持つ。

ABSTRACT

Counterfactual explanations (CEs) are a practical tool for demonstrating why machine learning classifiers make particular decisions. For CEs to be useful, it is important that they are easy for users to interpret. Existing methods for generating interpretable CEs rely on auxiliary generative models, which may not be suitable for complex datasets, and incur engineering overhead. We introduce a simple and fast method for generating interpretable CEs in a white-box setting without an auxiliary model, by using the predictive uncertainty of the classifier. Our experiments show that our proposed algorithm generates more interpretable CEs, according to IM1 scores, than existing methods. Additionally, our approach allows us to estimate the uncertainty of a CE, which may be important in safety-critical applications, such as those in the medical domain.

研究の動機と目的

• 複雑な補助的生成モデルに依存せずに、現実的で明確な対向説明を生成する課題に対処すること。
• エピステミック（知識不足）およびアレアトリック（データに内在するノイズ）不確実性の観点から、CEにおける解釈可能性を定義・実装すること。
• モンテカルロドロップアウトなどのモデルで既に利用可能な不確実性推定値を活用し、最小限の工数で高品質なCEを生成する手法を開発すること。
• 実験的に、不確実性に基づく最小化が、特に現実性と明確性の観点で、従来手法に比べてCEの解釈可能性を向上させることを検証すること。

提案手法

• モンテカルロドロップアウトを用いた分類器により、エピステミックおよびアレアトリック不確実性を推定し、低不確実性を現実性と明確性の代理指標として扱う。
• 対向説明生成中に両方の不確実性を暗黙的に最小化する損失関数を定式化し、データ分布に従う可能性が高く、明確に分類される入力を優遇する。
• 勾配に基づく不確実性の勾配に従い、入力を反復的にピクセル単位で摂動させることで、予測を反転させつつ不確実性を低減する最小の変更を同定する。
• 別個の生成モデルを必要とせず、ベース分類器の予測不確実性に依存することで、複雑さとトレーニングのオーバーヘッドを低減する。
• 勾配と不確実性推定値がモデルから直接アクセス可能なホワイトボックス設定で本手法を適用する。
• 解釈可能性にはIM1スコア、最小性にはL1距離を用い、アンサンブルサイズおよび adversarial training に関するアブレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 エピステミック不確実性は、対向説明における現実性の代理指標として用いられるか？
• RQ2 アレアトリック不確実性は、境界に近いまたは不確実な予測を特定することで、対向説明の曖昧さを低減するのを助けるか？
• RQ3 両方の不確実性タイプを暗黙的に最小化することで、補助モデルを必要としない従来手法よりも解釈可能性の高いCEが得られるか？
• RQ4 本手法は、敵対的アタックベースおよび生成モデルベースのベースラインと比較して、現実性と最小性の両面でどのように評価されるか？

主な発見

• MNISTデータセットでは、本手法がIM1スコア0.98を達成し、JSMA（1.11）およびVLK（1.12）を顕著に上回り、優れた現実性を示した。
• 乳がん診断データセットでは、本手法がIM1スコア0.89を達成したのに対し、VLKは2.81、JSMAは1.06であった。これは、表形式データにおいても強力な性能を示している。
• ボストン住宅価格データセットでは、本手法がIM1スコア0.85を達成し、VLK（2.55）およびJSMA（1.50）を上回った。解釈可能性の継続的向上が確認された。
• JSMA（例：MNISTで14.4）よりもL1摂動が大きい（例：MNISTで38.3）ものの、本手法はより現実的で解釈可能なCEを生成した。最小性と解釈可能性のトレードオフが裏付けられた。
• アブレーションスタディの結果、アンサンブルサイズが10モデル程度まで増加すると解釈可能性（IM1）が向上し、以降は増益が飽和する傾向を示した。これは収益の逓減を示唆した。
• 敵対的訓練によりIM1スコアは向上したが、説明のスパarsityが低下した。これは、ロバストネスと摂動のスパarsityの間にはトレードオフがあることを示唆した。