[論文レビュー] Explaining Deep Learning Models for Structured Data using Layer-Wise Relevance Propagation

Ihsan Ullah, André Ríos+2 more|arXiv (Cornell University)|Nov 26, 2020

Explainable Artificial Intelligence (XAI)参考文献 39被引用数 8

ひとこと要約

本論文は、1D-CNNを用いて、クレジットカード不正検出および通信キャリア離脱予測の分野において、構造化されたテーブルデータへのLayer-wise Relevance Propagation (LRP)の最初の応用を紹介する。LRPは説明の質と速度（1–2秒対22秒および108秒）においてLIMEおよびSHAPを上回り、人間が読みやすい直感的な特徴量の寄与度を提供するとともに、リアルタイムの説明可能性を可能にし、XAI駆動型の特徴選択の新たな道筋を示唆する。

ABSTRACT

Trust and credibility in machine learning models is bolstered by the ability of a model to explain itsdecisions. While explainability of deep learning models is a well-known challenge, a further chal-lenge is clarity of the explanation itself, which must be interpreted by downstream users. Layer-wiseRelevance Propagation (LRP), an established explainability technique developed for deep models incomputer vision, provides intuitive human-readable heat maps of input images. We present the novelapplication of LRP for the first time with structured datasets using a deep neural network (1D-CNN),for Credit Card Fraud detection and Telecom Customer Churn prediction datasets. We show how LRPis more effective than traditional explainability concepts of Local Interpretable Model-agnostic Ex-planations (LIME) and Shapley Additive Explanations (SHAP) for explainability. This effectivenessis both local to a sample level and holistic over the whole testing set. We also discuss the significantcomputational time advantage of LRP (1-2s) over LIME (22s) and SHAP (108s), and thus its poten-tial for real time application scenarios. In addition, our validation of LRP has highlighted features forenhancing model performance, thus opening up a new area of research of using XAI as an approachfor feature subset selection

研究の動機と目的

• 構造化されたテーブルデータにおけるディープラーニングモデルの説明という課題に取り組み、信頼性と意思決定の観点から解釈可能性が不可欠であることを目的とする。
• コンピュータビジョン分野での先行的成功を踏まえ、構造化データにおける説明手法としてのLayer-wise Relevance Propagation (LRP)の有効性を評価することを目的とする。
• 説明の質、計算効率、および使いやすさの観点から、LRPの性能をLIMEやSHAPといった既存の手法と比較することを目的とする。
• LRPの関連スコアを用いて顕著な入力特徴量を同定することで、特徴量サブセット選択のツールとしての可能性を検討することを目的とする。
• LRPの低インファレンス時間に着目し、生産環境におけるリアルタイム説明可能性の実現可能性を示すこと。

提案手法

• クレジットカード不正検出および通信キャリア離脱予測の分野で学習された、構造化されたテーブルデータセットを対象とする1D-CNNモデルにLRPを適用する。
• LRPの逆方向伝播メカニズムを用い、最終的な予測スコアをネットワークの各層を逆方向に伝播させ、入力特徴量に関連スコアを割り当てる。
• クラス固有の、人間が読みやすいヒートマップを生成し、モデルの予測に最も寄与した入力特徴量を強調表示する。
• 個々のサンプルおよび全テストセットに対して、定性的および定量的指標を用いて、LRPの説明をLIMEおよびSHAPと比較して検証する。
• インファレンス時間の比較により計算効率を測定する：LRP（1–2秒）、LIME（22秒）、SHAP（108秒）。
• データセット全体にわたる関連スコアの分析を通じて、一貫して重要な特徴量を同定し、特徴選択における有用性を示唆する。

実験結果

リサーチクエスチョン

• RQ1 LRPは、コンピュータビジョン分野での先行的成功を踏まえ、構造化されたテーブルデータに対しても効果的に適用可能だろうか？
• RQ2 LRPの説明の質は、局所的（サンプルレベル）およびグローバル（データセットレベル）の両スケールで、LIMEおよびSHAPと比べてどうか？
• RQ3 LRPの計算効率はLIMEおよびSHAPと比べてどうか？また、リアルタイムデプロイメントをサポートできるか？
• RQ4 LRPの関連スコアは、モデル性能に寄与する最も情報量の多い特徴量を同定・選択するのに利用可能だろうか？
• RQ5 非画像の構造化データに対して、LRPはLIMEおよびSHAPよりも直感的かつ解釈可能な説明を提供するだろうか？

主な発見

• LRPは、局所的およびグローバルな分析の両方において、顕著な入力特徴量を強調する点で、LIMEおよびSHAPよりも直感的で人間が読みやすい説明を生成した。
• LRPは1サンプルあたり1–2秒の説明時間を達成し、LIME（22秒）およびSHAP（108秒）を大きく上回る高速性を示し、リアルタイムデプロイメントを可能にした。
• LRPの関連スコアは、データセット全体にわたり一貫して高い影響を持つ特徴量を明らかにした。これは、XAI駆動型の特徴量サブセット選択の可能性を示唆する。
• LRPは、全テストセット全体にわたる包括的な説明の質において、LIMEおよびSHAPを上回り、グローバルな特徴量重要度のパターンをよりよく捉えていた。
• 本研究は、構造化データにおけるLRPの頑健性と解釈可能性を検証し、テーブルデータ分野における信頼性のあるディープラーニングへの一歩を示した。
• 結果から、LRPは説明に有効であるだけでなく、モデル診断や特徴量工学のための有望なツールであると示唆された。