[論文レビュー] What went wrong and when? Instance-wise Feature Importance for Time-series Models

Sana Tonekaboni, Shalmali Joshi+3 more|arXiv (Cornell University)|Mar 5, 2020

Explainable Artificial Intelligence (XAI)参考文献 45被引用数 10

ひとこと要約

この論文では、他の特徴量が観測されない反事後的状況とのKLダイバージェンスを用いて、予測分布のシフトを定量化することで、多変量時系列モデルにおけるインスタンスごとの特徴量重要度を割り当てるモデルに依存しないフレームワークであるFIT（Feature Importance in Time）を紹介する。この手法は、シミュレートされたデータおよび臨床分野の実データにおいて、特に動的で時間依存性のある特徴量の影響を捉える点で、最先端のベースラインを上回る性能を示した。

ABSTRACT

Explanations of time series models are useful for high stakes applications like healthcare but have received little attention in machine learning literature. We propose FIT, a framework that evaluates the importance of observations for a multivariate time-series black-box model by quantifying the shift in the predictive distribution over time. FIT defines the importance of an observation based on its contribution to the distributional shift under a KL-divergence that contrasts the predictive distribution against a counterfactual where the rest of the features are unobserved. We also demonstrate the need to control for time-dependent distribution shifts. We compare with state-of-the-art baselines on simulated and real-world clinical data and demonstrate that our approach is superior in identifying important time points and observations throughout the time series.

研究の動機と目的

• 医療などのハイリスク分野におけるブラックボックス時系列モデルに特化したインスタンスごとの特徴量重要度手法の不足に応えること。
• 特徴量の寄与度が時間とともにどのように変化するかを明示的にモデル化することで、特徴量を静的と見なすのではなく、時間的動態を捉えること。
• 複数の特徴量が同時に変化して予測に影響を与える臨床現場において特に重要な、特徴量サブセットの集約的重要度の評価を可能にすること。
• 任意のブラックボックス時系列モデルに対応できるモデルに依存しないフレームワークを構築し、リアルタイムの説明を可能にすること。

提案手法

• FITは、特徴量重要度を、観測値が予測分布のシフトに与える寄与度として定義し、完全な予測分布と、観測値が分離された反事後的状況における分布との間のKLダイバージェンスで測定する。
• フレームワークは生成モデルを用いて時系列データの同時分布を学習し、特徴量サブセットの反事後的分布を正確に近似可能にする。
• 重要度スコアは、各時刻で特徴量サブセットに条件付けられた予測分布と完全な分布を比較することで計算され、時間的シフトを捉える。
• 個々の特徴量だけでなく、複数の特徴量のグループがモデル出力のシフトにどの程度寄与しているかを評価できるため、サブセットレベルの重要度をサポートする。
• FITはモデルに依存せず、ディープラーニングや再帰的アーキテクチャを含む任意のブラックボックス時系列モデルに適用可能である。
• 予測分布の時間的変化をモデル化することで、時間依存性のある分布シフトに対応する。

実験結果

リサーチクエスチョン

• RQ1 動的で時間に依存する特徴量寄与度を考慮した、時系列モデルにおけるインスタンスごとの特徴量重要度をどのように割り当てられるか。
• RQ2 特徴量または特徴量サブセットが、時間経過に伴って予測分布のシフトにどの程度寄与しているかを定量化できるか。
• RQ3 時間的動態を考慮することで、時系列モデルにおける特徴量重要度の信頼性と解釈可能性がどのように向上するか。
• RQ4 モデルに依存しないフレームワークが、勾配ベースやアテンションベースの手法を上回り、重要な時刻や特徴量サブセットを特定できるか。
• RQ5 実世界の臨床的および合成時系列データにおいて、FITは既存のベースラインと比較してどの程度の性能を示すか。

主な発見

• FITは、シミュレーションデータおよび実臨床時系列データの両方において、重要な時刻や観測値を局所化する点で、最先端のベースラインを上回った。
• 複数の共変動する特徴量がモデル予測を支配する重要なサブセットを的確に同定できた。これは、臨床意思決定において複数の特徴量が同時に影響を及ぼすため、極めて重要である。
• 生成モデルを用いて時間的動態をモデル化することで、パラメータ変更ベースや勾配ベースの手法よりも、より正確な反事後的近似が可能になった。
• FITの重要度スコアは、ドメイン外の摂動に対して頑健であり、従来のサリエンシー法やパラメータ変更法で見られる不安定性を回避した。
• 各時刻で重要度スコアを割り当てることで、リアルタイムの説明が可能になった。これは、動的データ収集や監視の応用に適している。
• 実験的結果から、FITのKLダイバージェンスに基づく測定値が、意味のある分布シフトを効果的に捉えており、より信頼性が高く解釈可能な説明を可能にした。