[論文レビュー] Generating Contrastive Explanations with Monotonic Attribute Functions.

Ronny Luss, Pin‐Yu Chen+4 more|arXiv (Cornell University)|May 29, 2019

Explainable Artificial Intelligence (XAI)参考文献 2被引用数 37

ひとこと要約

本論文は、画像などの豊富なデータにおける視覚的属性の'加算'を形式的に定義することで、深層学習における対照的説明を生成する新しい手法を提案する。これにより、予測を変えるのに十分な特徴および変化を特定できる。このアプローチは、3つの多様な画像データセットにおいて、人間の解釈可能性と定量的指標の両面で最先端の手法を上回る。

ABSTRACT

Explaining decisions of deep neural networks is a hot research topic with applications in medical imaging, video surveillance, and self driving cars. Many methods have been proposed in literature to explain these decisions by identifying relevance of different pixels, limiting the types of explanations possible. In this paper, we propose a method that can generate contrastive explanations for such data where we not only highlight aspects that are in themselves sufficient to justify the classification by the deep model, but also new aspects which if added will change the classification. In order to move beyond the limitations of previous explanations, our key contribution is how we define addition for such rich data in a formal yet humanly interpretable way that leads to meaningful results. This was one of the open questions laid out in in Dhurandhar this http URL. (2018) [6], which proposed a general framework for creating (local) contrastive explanations for deep models, but is limited to simple use cases such as black/white images. We showcase the efficacy of our approach on three diverse image data sets (faces, skin lesions, and fashion apparel) in creating intuitive explanations that are also quantitatively superior compared with other state-of-the-art interpretability methods. A thorough user study with 200 individuals asks how well the various methods are understood by humans and demonstrates which aspects of contrastive explanations are most desirable.

研究の動機と目的

• 既存の説明手法が十分な特徴のみを強調するのに対し、予測を変える要因は特定しないという限界に対処すること。
• 画像などの豊富な視覚的データにおける'加算'の概念を、数学的に整合性があり、人間が理解可能な方法で形式化すること。
• 単純なデータ（例：白黒画像）にとどまらず、顔、皮膚病変、ファッション衣料品などの複雑な視覚的ドメインへ対照的説明生成を拡張すること。
• 200名の参加者を対象とした大規模なユーザースタディを通じて、対照的説明の人間の理解度と望ましさを評価すること。

提案手法

• 入力画像に新たな視覚的特徴を意味的に追加できるようにする単調な属性関数を導入する。
• これらの関数を用いて、予測を変えるのに十分な特徴と反事実的変化（counterfactual changes）の両方を特定することで、対照的説明を生成する。
• 顔の有名人画像、皮膚病変画像、ファッション衣料品の3つの多様な画像データセットにこの手法を適用し、ドメイン間での一般化を実証する。
• 追加された属性が意味的に整合性があり、人間の知覚と一致するように保証する形式的フレームワークを採用する。
• 定量的指標とユーザースタディを用いて、解釈可能性とユーザーライクの両面で手法を検証する。
• エンド・ツー・エンドで微分可能となるように、深層ニューラルネットワークの活性化を活用して関連する特徴および反事実的属性の探索を支援する。

実験結果

リサーチクエスチョン

• RQ1 画像などの豊富なデータにおける視覚的属性の加算を、意味的に意味のある対照的説明を可能にする形で形式的に定義する方法は何か？
• RQ2 対照的説明は、サリエンシーに基づく手法と比較して、深層学習モデルの意思決定を人間がどの程度よく理解できるか？
• RQ3 対照的説明のどの側面（例：十分な特徴と反事実的変化の両方を特定すること）がユーザーにとって最も望ましいか？
• RQ4 提案手法は、多様な画像ドメインにおいて、最先端の解釈可能手法と定量的に比較してどの程度優れているか？
• RQ5 この手法は、医療、顔、ファッション画像など、異なる視覚的データタイプに一般化可能か？

主な発見

• 200名の参加者を対象としたスタディにおいて、提案手法が生成する対照的説明は、はるかに直感的で、ユーザーに好まれることが確認された。
• 3つのデータセットすべてにおいて、最先端の説明技術と比較して、解釈可能性指標で優れた定量的パフォーマンスを達成した。
• ユーザーは、十分な特徴と反事実的変化の両方を強調する説明を、より情報量が多く信頼できると一貫して評価した。
• 属性加算の形式的定義により、複雑な視覚的データでさえも一貫性があり意味的に整合性のある対照的説明が可能になった。
• 従来の研究がカバーしていなかった豊富な視覚的ドメインへ、対照的説明生成を成功裏に拡張した。