[論文レビュー] The Twin-System Approach as One Generic Solution for XAI: An Overview of ANN-CBR Twins for Explaining Deep Learning

Mark T. Keane, Eoin M. Kenny|arXiv (Cornell University)|May 20, 2019

Explainable Artificial Intelligence (XAI)参考文献 7被引用数 9

ひとこと要約

本論文では、ブラックボックスな深層学習モデル（ANN）を解釈可能なケースベース推論（CBR）システムが白箱の代理として果たす、汎用的な説明可能なAI（XAI）のためのANN-CBRツイン・システム手法を提案する。CBRを用いて類似した過去の事例を通じてANNの意思決定を説明することで、性能を損なうことなくモデルの透明性を向上させ、深層学習におけるXAIのスケーラブルなフレームワークを提供する。

ABSTRACT

The notion of twin systems is proposed to address the eXplainable AI (XAI) problem, where an uninterpretable black-box system is mapped to a white-box 'twin' that is more interpretable. In this short paper, we overview very recent work that advances a generic solution to the XAI problem, the so called twin system approach. The most popular twinning in the literature is that between an Artificial Neural Networks (ANN ) as a black box and Case Based Reasoning (CBR) system as a white-box, where the latter acts as an interpretable proxy for the former. We outline how recent work reviving this idea has applied it to deep learning methods. Furthermore, we detail the many fruitful directions in which this work may be taken; such as, determining the most (i) accurate feature-weighting methods to be used, (ii) appropriate deployments for explanatory cases, (iii) useful cases of explanatory value to users.

研究の動機と目的

• 深層学習モデルの解釈可能性を、汎用的かつ再利用可能なフレームワークによって実現すること。
• ブラックボックスなANNと解釈可能なCBRシステムを組み合わせたツイン・システムアーキテクチャを構築すること。
• 類似した過去の事例を検索・説明することで、ユーザーがAI意思決定を理解し、信頼できるようにすること。
• 実世界の応用における説明的ケースのための有効な特徴量重み付け手法と展開戦略を同定すること。
• XAIシステムにおける説明価値の体系的評価の基盤を確立すること。

提案手法

• ツイン・システム手法により、ブラックボックスとしての深層ニューラルネットワーク（ANN）を、ホワイトボックスとしてのケースベース推論（CBR）システムにマッピングする。
• CBRシステムは、類似度メトリクスと特徴量重み付けを用いて、現在の入力に類似した過去の事例を検索・説明する。
• 特徴量重み付けを適用して、事例検索における最も関連性の高い属性を強調することで、説明の整合性を向上させる。
• CBRシステムは、類似した過去の事例からの推論経路をたどることで、事後的説明を生成する。
• この手法はANNの内部構造に依存しないため、多様な深層学習モデルに応用可能である。
• 新しい高影響度意思決定をケースベースに追加することで、将来の説明の質を向上させる動的適応をサポートする。

実験結果

リサーチクエスチョン

• RQ1 ブラックボックスな深層学習モデルを、解釈可能なツイン・システムで効果的に説明する方法は何か？
• RQ2 CBRベースの説明の正確性と関連性を最大化するための特徴量重み付け戦略は何か？
• RQ3 エンドユーザーにとって最も有用な説明価値を提供するタイプの事例は何か？
• RQ4 ツイン・システム手法を実世界のAI応用で効果的に展開するにはどうすればよいか？
• RQ5 ケースベースの質と多様性が、説明の信頼性とユーザーの信頼に与える影響は何か？

主な発見

• ANN-CBRツイン・システムは、元のネットワークを変更せずに、深層学習モデルを説明する汎用的でモジュール型のフレームワークを提供する。
• ケースベース推論は、類似した過去の意思決定を検索・説明することで高い解釈可能性を実現し、ユーザーの信頼を向上させる。
• 効果的な特徴量重み付けは、検索された説明的ケースの関連性と正確性を顕著に向上させる。
• 分離された説明ロジックにより、多様な深層学習アプリケーションへのスケーラブルな展開を可能にする。
• ブラックボックスモデルのアーキテクチャを変更することなく、事後的説明を可能にする。
• 予備的な結果から、CBRツインはモデル性能を維持したまま、高い説明適合性を達成できることが示唆されている。