[論文レビュー] Towards User Empowerment.

Martin Pawelczyk, Johannes Haug+2 more|arXiv (Cornell University)|Oct 21, 2019

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

本稿では、密度の高い領域に位置し、データ分布に忠実であるとともに、スパarsityかつ解釈可能である反事後的説明を生成する、反事後的条件付き非一様変分オートエンコーダー（C-CHVAE）を提案する。本研究では、難易度に配慮した基準を導入し、多様体学習を活用することで、現実世界の意思決定支援における現実的で達成可能な反事後的説明を生成する。

ABSTRACT

Counterfactual explanations can be obtained by identifying the smallest change made to a feature vector to qualitatively influence a prediction; for example, from 'loan rejected' to 'awarded' or from 'high risk of cardiovascular disease' to 'low risk'. Previous approaches often emphasized that counterfactuals should be easily interpretable to humans, motivating sparse solutions with few changes to the feature vectors. However, these approaches would not ensure that the produced counterfactuals be proximate (i.e., not local outliers) and connected to regions with substantial data density (i.e., close to correctly classified observations), two requirements known as counterfactual faithfulness. These requirements are fundamental when making suggestions to individuals that are indeed attainable. Our contribution is twofold. On one hand, we suggest to complement the catalogue of counterfactual quality measures [1] using a criterion to quantify the degree of difficulty for a certain counterfactual suggestion. On the other hand, drawing ideas from the manifold learning literature, we develop a framework that generates attainable counterfactuals. We suggest the counterfactual conditional heterogeneous variational autoencoder (C-CHVAE) to identify attainable counterfactuals that lie within regions of high data density.

研究の動機と目的

• 既存の反事後的説明には忠実性に欠ける問題があること、特にスパースではあるが現実的でない、あるいは外れ値に近い提案を生じがちであることを是正すること。
• 反事後的説明がデータ密度の高い領域に位置することを保証することで、ユーザーが達成可能な現実的で実用的な説明を実現すること。
• 反事後的提案を達成するために必要な努力を定量化する新しい品質指標を導入し、ユーザー中心の解釈可能性を向上させること。
• 反事後的説明とデータ多様体構造を同時にモデル化する深層生成フレームワークを構築し、忠実性を向上させること。

提案手法

• 入力特徴に条件付けられた反事後的説明をモデル化する条件付きVAEとして、反事後的条件付き非一様変分オートエンコーダー（C-CHVAE）を提案する。
• 元のデータと反事後的摂動を同時に符号化する潜在空間を用い、現実的で達成可能な変更の分離学習を可能にする。
• 生成された反事後的説明が高密度データ領域に位置することを保証するため、多様体学習のアプローチを統合する。これにより忠実性が向上する。
• 反事後的説明を達成するために必要な努力を定量化するための難易度スコア指標を導入し、ユーザーの意思決定支援を支援する。
• 現実世界のデータに一般的に見られる混合型特徴（例：カテゴリカルおよび連続的特徴）を処理できる非一様アーキテクチャを採用する。
• 再構成、正則化、および反事後的忠実性のバランスを取るため、変分推論の目的関数を用いてモデルをエンドツーエンドで学習する。

実験結果

リサーチクエスチョン

• RQ1 反事後的説明が高密度データ領域に位置することを保証することで、どのようにして達成可能なものにできるか？
• RQ2 エンドユーザーが反事後的提案を達成するために必要な努力を効果的に定量化するための指標は何か？
• RQ3 C-CHVAEのような深層生成モデルは、スパースかつデータ分布に忠実な反事後的説明を生成できるか？
• RQ4 提案されたC-CHVAEフレームワークは、既存の手法と比較して、現実的で実行可能な反事後的説明をどのように効果的に生成するか？
• RQ5 多様体構造を統合することで、反事後的説明の忠実性と現実性はどの程度向上するか？

主な発見

• C-CHVAEフレームワークは、スパースかつ高密度データ領域に位置する反事後的説明を効果的に生成し、忠実性が向上した。
• 提案された難易度スコア指標は、反事後的提案を達成するために必要な難易度を意味的かつ解釈可能な指標として提供した。
• 多様体構造を活用することで、モデルは局所的な外れ値や現実世界の文脈で不自然な反事後的説明を生成することを回避した。
• 本手法は、解釈可能で現実のデータ分布に基づいた反事後的説明を生成するという点で、ベースライン手法を上回った。
• 非一様特徴処理の統合により、混合型特徴を持つ多様な現実世界のデータセットへの適用が可能になった。
• 実験的結果から、C-CHVAEが生成する反事後的説明は、ユーザーの能力と整合的で、より実行可能であることが示された。