[論文レビュー] TSInsight: A local-global attribution framework for interpretability in time-series data

Shoaib Ahmed Siddiqui, Dominique Mercier+2 more|arXiv (Cornell University)|Apr 6, 2020

Explainable Artificial Intelligence (XAI)参考文献 27被引用数 4

ひとこと要約

TSInsightは、スパarsity正則化付きオートエンコーダーとディープラーニング分類器を統合することで、時系列解釈可能性のための画期的なローカル・グローバル特徴量帰属フレームワークを提案する。予測の忠実性と顕著な特徴の再構築を同時に最適化することで、インスタンス固有の説明とモデル全体の説明を両立させるとともに、8つのデータセットで入力空間の縮小と優れた解釈可能性を達成する。

ABSTRACT

With the rise in the employment of deep learning methods in safety-critical scenarios, interpretability is more essential than ever before. Although many different directions regarding interpretability have been explored for visual modalities, time-series data has been neglected with only a handful of methods tested due to their poor intelligibility. We approach the problem of interpretability in a novel way by proposing TSInsight where we attach an auto-encoder to the classifier with a sparsity-inducing norm on its output and fine-tune it based on the gradients from the classifier and a reconstruction penalty. TSInsight learns to preserve features that are important for prediction by the classifier and suppresses those that are irrelevant i.e. serves as a feature attribution method to boost interpretability. In contrast to most other attribution frameworks, TSInsight is capable of generating both instance-based and model-based explanations. We evaluated TSInsight along with 9 other commonly used attribution methods on 8 different time-series datasets to validate its efficacy. Evaluation results show that TSInsight naturally achieves output space contraction, therefore, is an effective tool for the interpretability of deep time-series models.

研究の動機と目的

• 時系列データにおけるディープラーニングの解釈可能性の欠如、特に医療や自律走行システムなど安全が求められる分野における課題に対処すること。
• 個々の予測に特化した既存の帰属手法の限界を克服し、インスタンスベースとモデルベースの両方の説明を提供する統合フレームワークの開発。
• オートエンコーダー出力にスパarsity誘導ノルムを適用することで入力空間の縮小を誘導し、特徴の関連性と理解可能性を向上させることによる解釈性の向上。
• 9つのベースライン帰属手法と比較して、多様な時系列データセット上で本手法の評価を実施すること。
• 本手法が、汎用的適用性や入力摂動に対するロバストネスといった「即効性」（out-of-the-box）の特性をどのように達成するかを示すこと。

提案手法

• ディープラーニング分類器と、分類器の勾配と再構築損失を用いて共同で微調整される変分オートエンコーダー（VAE）が結合される。
• オートエンコーダー出力にスパarsity誘導ノルム（例：L1）を適用し、分類器の予測に関連する特徴のみを再構築するようモデルを促進する。
• 最適化プロセスにより、予測と因果的・相関的に関連する特徴が保持され、不要なノイズ成分が抑制される。
• 個々の入力または全データセット上で最適化を実行することで、インスタンスベース（入力ごと）とモデルベース（データセットレベル）の二重説明モードを実現する。
• オートエンコーダーのヤコビアンスペクトルを分析し、入力空間の縮小を検証する。これにより、モデルが無関係な変動を圧縮していることが示される。
• 本フレームワークは、CNN やLSTM などのさまざまなバックボーンアーキテクチャと互換性があり、アーキテクチャの一般性を示している。

実験結果

リサーチクエスチョン

• RQ1 統合フレームワークは、時系列ディープラーニングモデルに対してインスタンス固有とモデル全体の両方の説明を生成できるか？
• RQ2 オートエンコーダー出力にスパarsity誘導ノルムを組み込むことで、時系列データにおける特徴帰属と解釈性が向上するか？
• RQ3 TSInsightはどの程度入力空間の縮小を達成しており、その縮小がモデルの解釈性向上とどのように関連するか？
• RQ4 多様な時系列データセットにおいて、9つの確立された帰属手法と比較して、TSInsightは特徴の重要度推定と説明の妥当性の両面で優れているか？
• RQ5 TSInsightの「即効性」特性、例えば汎用的適用性や異なるモデルアーキテクチャ間でのロバストネスは、どのように評価されるか？

主な発見

• TSInsightは、全8つの時系列データセットで、9つのベースライン手法と比較して、最も妥当性が高く競争力のある特徴の重要度推定を達成した。
• オートエンコーダーの平均ヤコビアンの特異値が急激に減少するという証拠から、顕著な入力空間の縮小が確認され、非情報的成分の抑制が示された。
• CNN およびLSTMアーキテクチャの両方で、TSInsightは顕著な特徴を効果的に抽出し、汎用的適用性を示した。特にLSTMでは、最後の時系列ステップにピークの重要度が現れるという、アーキテクチャの挙動と整合するサリエンシーのパターンが得られた。
• 抑制テストでは、上位特徴を抑制することで予測信頼度が著しく低下する結果が得られ、本手法が関連する入力成分に感受していることが確認された。
• 全データセット上で最適化することで、モデルベースの説明が自然に得られ、データ分布全体における特徴の重要性に関するグローバルな知見が可能になった。
• 入力空間の縮小のおかげで、アドバーシャルロバストネスにわずかな改善が見られたが、データセット間で一貫性がなく、必ずしも強力な向上とはならなかった。