[論文レビュー] Explaining Time Series Predictions with Dynamic Masks

Jonathan Crabbé, Mihaela van der Schaar|arXiv (Cornell University)|Jun 9, 2021

Explainable Artificial Intelligence (XAI)参考文献 44被引用数 26

ひとこと要約

Dynamaskは入力を時系列依存のオペレータで撹乱することにより、予測を説明するインスタンスごとの動的マスクを導入する。情報理論的なフレーミングを通じて簡潔性と読みやすさを促進する。

ABSTRACT

How can we explain the predictions of a machine learning model? When the data is structured as a multivariate time series, this question induces additional difficulties such as the necessity for the explanation to embody the time dependency and the large number of inputs. To address these challenges, we propose dynamic masks (Dynamask). This method produces instance-wise importance scores for each feature at each time step by fitting a perturbation mask to the input sequence. In order to incorporate the time dependency of the data, Dynamask studies the effects of dynamic perturbation operators. In order to tackle the large number of inputs, we propose a scheme to make the feature selection parsimonious (to select no more feature than necessary) and legible (a notion that we detail by making a parallel with information theory). With synthetic and real-world data, we demonstrate that the dynamic underpinning of Dynamask, together with its parsimony, offer a neat improvement in the identification of feature importance over time. The modularity of Dynamask makes it ideal as a plug-in to increase the transparency of a wide range of machine learning models in areas such as medicine and finance, where time series are abundant.

研究の動機と目的

• 時系列の文脈を保持する説明の必要性を動機づける。
• 時系列全体で顕著な特徴を識別するための動的撹乱ベースのマスクを定義する。
• 近似的にバイナリに近い疎なマスクを強制し情報内容を定量化することで、簡潔さと読みやすさを促進する。
• 情報理論的指標を用いて時系列の顕著性手法を比較するためのフレームワークを提供する。

提案手法

• 長さ T × dX の形状を持つマスク M を定義し、m_{t,i} が f(X) に対する時点 t における特徴 i の重要度を示す。
• m_{t,i} が大きい場合に効果を低減させるよう X を撹乱する撹乱演算子 Pi_M を用い、動的撹乱は隣接する時系列の時点を取り入れる（W1, W2 のウィンドウ） 。
• いくつかの撹乱演算子を提案する：pi^g（時系列ガウスブラー）、pi^m（移動平均へのフェード）、pi^p（過去寄りの移動平均へのフェード）。
• 予測のずれを f(X) と f(Pi_M(X)) の間で最小化し、疎性と時系列の滑らかさの項を追加して M を最適化する：L_e（予測誤差）、L_a（vecsort 正則化による領域ベースの疎性）、L_c（時系列連続性）。
• 誤差を閾値 ε 以下に保ちつつ面積 a* を最小化する極端マスク M_a* を定義する。
• マスクの情報理論的指標を導入する：マスク情報 I_M(A) = -Σ ln(1 - m_{t,i}) およびマスクエントロピー S_M(A) = -Σ [ m_{t,i} ln m_{t,i} + (1 - m_{t,i}) ln(1 - m_{t,i}) ]，正性、加法性、単調性の性質を持つ。

実験結果

リサーチクエスチョン

• RQ1 時系列モデルのサリエンシー説明に時間的文脈をどのように組み込むことができるか？
• RQ2 説明に必要な入力の最小サブセットを特定し、簡潔で読みやすいマスクを作成できるか？
• RQ3 情報理論的指標を用いて時系列サリエンシー・マスクの品質と解釈性をどのように定量化するか？
• RQ4 Dynamaskは合成データと実世界データの時系列に対して既存のサリエンシー手法と比べてどう評価されるか？

主な発見

• Dynamaskは時系列サリエンシー課題でベースライン（FO、FP、IG、SVS）より高いAURと実用的なI_M(A)およびAUPを示し、ホワイトボックス・ブラックボックス実験の両方で優れた性能を発揮した。
• 動的撹乱を用いることで、静的手法と比べて時系列全体で顕著な特徴の識別が改善された。
• 極端マスクアプローチは、指定された許容誤差内で予測精度を維持しつつ強い疎性（小さなマスク面積 a）を達成する。
• 顕著な領域がうまく捉えられるとマスク情報量が増加し、よりバイナリで読みやすいマスクではマスクエントロピーが低下する。
• このフレームワークは医療・金融の時系列説明に適したモジュール化された撹乱設計のプラグイン手法を提供する。