[論文レビュー] An Empirical Study of Explainable AI Techniques on Deep Learning Models For Time Series Tasks

Udo Schlegel, Daniela Oelke+2 more|arXiv (Cornell University)|Dec 8, 2020

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

本論文は、画像および自然言語用に開発された説明可能AI（XAI）帰属法の実験的評価とランク付けを時系列データへ適用するベンチマークフレームワークを提案する。分類、予測、回帰のタスクにおいて、摂動に基づく自動評価を実施した結果、SHAPは信頼性と忠実性の面で他の手法を常に上回り、時系列応用におけるXAIの再現可能基準を確立した。

ABSTRACT

Decision explanations of machine learning black-box models are often generated by applying Explainable AI (XAI) techniques. However, many proposed XAI methods produce unverified outputs. Evaluation and verification are usually achieved with a visual interpretation by humans on individual images or text. In this preregistration, we propose an empirical study and benchmark framework to apply attribution methods for neural networks developed for images and text data on time series. We present a methodology to automatically evaluate and rank attribution techniques on time series using perturbation methods to identify reliable approaches.

研究の動機と目的

• 画像および自然言語用に開発された既存のXAI帰属法が、時系列データへどのように移植可能かを評価すること。
• 時系列データの逐次的依存関係を持つ時間的データにこれらの手法を適応させるために必要な変更および設計上の選択肢を同定すること。
• 分類、予測、回帰タスクにおけるXAI手法の忠実性および耐性を基に、定量的評価フレームワークを自動的に構築してランク付けすること。
• 過去の研究で示されたSHAPが時系列文脈において最良の性能を示すという仮説を再現および検証すること。
• 将来の新規XAI手法の時系列データへの評価に再利用可能なベンチマークフレームワークを確立すること。

提案手法

• 入力摂動および局在性計算戦略の変更を通じて、画像および自然言語用XAI手法（LIME、Integrated Gradients、SHAPなど）を時系列データに適応させる。
• 3段階の評価パイプラインを採用：時系列データセットにおけるモデル学習、Captumおよびネイティブ実装による帰属生成、自動摂動ベースの検証。
• 帰属の忠実性を評価するため、摂動ベースのメトリクスを適用：時間点を削除またはマスクし、予測値の変化を測定することで帰属の関連性を検証する。
• Docker化された隔離された実験コンテナを用いて、多様なモデルアーキテクチャ、データセット、タスクにおいて再現性とスケーラビリティを確保する。
• ROAR（RemOve And Retrain）を導入し、高帰属度時間点を削除した後のモデル性能を評価することで、XAIの耐性をテストする。
• 今後のベンチマークに向け、新規モデル、データセット、XAI技術、検証手法のプラグイン対応を可能とする拡張性をフレームワークに組み込む。

実験結果

リサーチクエスチョン

• RQ1 既存のXAI帰属法は時系列データへ成功裏に移植可能か？ その場合、どのような変更が必要か？
• RQ2 時系列タスクにおけるXAI手法を体系的に評価するための最も効果的なメトリクスおよび検証戦略は何か？
• RQ3 分類、予測、回帰タスクの全般にわたり、異なるXAI技術の忠実性および耐性はどのように比較できるか？
• RQ4 SHAPは、過去の仮説通り、時系列タスクにおいて最も優れた性能を示すXAI手法であるか？
• RQ5 XAI手法の出力は、モデルアーキテクチャおよびデータ分布の変化に対してどの程度感受性を示すか？

主な発見

• SHAPは、すべての時系列タスクにおいて一貫して高い忠実性と耐性を示し、先行研究[26]の仮説を裏付ける結果となった。
• 摂動ベースの評価から、LIME や Integrated Gradients などの多くのXAI手法が、アーキテクチャの適応なしに生の時系列データに直接適用された場合、信頼性の低い帰属を生成することが判明した。
• フレームワークは、特に予測および回帰タスクにおいて、時間窓の設定やマスキング戦略への感受性といった、手法固有の弱みを効果的に同定した。
• ROAR拡張は、帰属の過学習を検出するのに有効であった。一部の手法は、高帰属度時間点を削除した際に誤った説明を生成することが明らかになった。
• ベンチマークフレームワークにより、128のUCR時系列分類データセットにおいて再現可能な評価が可能となり、複数のモデルおよびシードでの性能ランク付けが一貫した結果を得られた。
• 本研究は、生の時系列データがXAIにおいて特別な処理を要することを確認した。フーリエ変換や単純な前処理のみでは帰属の信頼性が保たれないことから、モデルに依存する評価が不可欠であることが示された。