[論文レビュー] Time Interpret: a Unified Model Interpretability Library for Time Series

Joseph Enguehard|arXiv (Cornell University)|Jun 5, 2023

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

Time Interpretは、時系列における説明可能なAIのための統合的PyTorchベースのライブラリを導入する。Captumを拡張し、時系列特徴量の帰属割り当てに特化した手法（例：時系列統合勾配、時系列フォワードトンネル）を提供する。実データおよび合成データをサポートし、評価指標やPyTorch Lightning統合を備え、金融・医療分野における高リスク応用分野における解釈可能性を向上させる。

ABSTRACT

We introduce $ exttt{time_interpret}$, a library designed as an extension of Captum, with a specific focus on temporal data. As such, this library implements several feature attribution methods that can be used to explain predictions made by any Pytorch model. $ exttt{time_interpret}$ also provides several synthetic and real world time series datasets, various PyTorch models, as well as a set of methods to evaluate feature attributions. Moreover, while being primarily developed to explain predictions based on temporal data, some of its components have a different application, including for instance methods explaining predictions made by language models. In this paper, we give a general introduction of this library. We also present several previously unpublished feature attribution methods, which have been developed along with $ exttt{time_interpret}$.

研究の動機と目的

• 金融・医療分野を含む高リスク分野において、時系列データ上の深層学習モデルを解釈するための統合的かつアクセス可能なツールの不足に対処する。
• 時系列特化の帰属割り当て手法をCaptumに拡張し、逐次意思決定におけるモデルの透明性と公平性を向上させる。
• 研究の再現性とデプロイメントを容易にするために、データセット、モデル、評価指標、PyTorch Lightning統合を含む包括的なツールキットを提供する。
• 時系列帰属割り当て（各時刻ごとの特徴量重要度）と、時系列に限らないモデルに依存しない説明技術（自然言語処理タスクを含む）を両方サポートする。
• TIG、時系列フォワードトンネル、LOF強化型LIME/SKAPといった新規帰属割り当て手法を導入し、説明の頑健性と忠実性を向上させる。

提案手法

• 現在の時刻ステップのみを補間するが、過去の入力を保持し、将来のデータを除外する「時系列統合勾配（TIG）」を実装。これは、統合勾配の変種である。
• 時系列フォワードトンネルを導入。任意のCaptum帰属割り当て手法を、時刻tまでの短縮されたシーケンスに対して繰り返し適用するラッパーであり、将来の情報が影響しないように因果的整合性を保証する。
• 補正された分布から入力に近いベースラインをサンプリングすることで、分布シフトを低減する「拡張オクルージョン（AugmentedOcclusion）」を開発。
• ベイジアン線形回帰を用いて帰属割り当ての不確実性（信用区間）を推定する「BayesLime」と「BayesKernelShap」を統合。
• 入力が形状 (T, N) の場合に、形状 (T, N) の帰属割り当てテンソルを返すことで、時刻ごとの解釈可能性を実現する。
• 非線形性トンネルにより、モデル層のReLUをSoftplusに置き換えることで、曲率に起因する帰属割り当てアーチファクトを低減し、モデルに依存しない説明を可能にする。

Figure 1: Illustration of the TIG method . Given an input x and a corresponding baseline $\overline{\textbf{x}}$ , we compute the attribution as such. For each time t, we crop future times: $\textbf{x}[:t]$ , and we only compute interpolations on the last data point in time: $\textbf{x}_{\alpha}=(x_

実験結果

リサーチクエスチョン

• RQ1 ベースライン選択および摂動戦略の改良によって、時系列モデルにおける特徴量帰属割り当ての忠実性と頑健性をどのように向上させられるか？
• RQ2 TIG や 時系列フォワードトンネルといった時系列帰属割り当て手法は、標準的な帰属割り当て手法に比べて、より正確で因果的整合性のある説明を提供するか？
• RQ3 BayesLime や BayesKernelShap のような不確実性を考慮した手法は、時系列における説明の信頼性を向上させ、説明の信頼性を定量化できるか？
• RQ4 局所的説明における外れ値摂動への感受性を低減するために、局所的外れ要因（LOF）に基づく類似度測定はどの程度有効か？
• RQ5 このライブラリの一部は、時系列を越えて一般化可能か。例えば、トランスフォーマーに基づく言語モデルの説明にも応用可能か？

主な発見

• 時系列統合勾配（TIG）は、現在の時刻ステップのみを補間し、過去の入力を保持し、将来のデータを除外することで、因果的整合性を持つ帰属割り当て手法を提供する。
• 時系列フォワードトンネルは、任意のCaptum帰属割り当て手法を因果的かつ反復的に適用可能にし、時刻tにおける帰属割り当てに将来のデータが影響しないことを保証する。
• 拡張オクルージョンは、入力に近い補正された分布からベースラインをサンプリングすることで、分布シフトを低減し、説明の安定性を向上させる。
• BayesLime および BayesKernelShap は、帰属割り当ての信用区間を提供し、特徴量重要度の不確実性を定量化することで、解釈可能性を向上させる。
• LOF強化型LIMEおよびKernel SHAPは、LOFスコアを類似度重みとして使用することで、スパースまたはノイズの多いデータにおける外れ値摂動への感受性を低減し、頑健性を向上させる。
• 本ライブラリは、時刻ごとの帰属割り当て（時系列帰属割り当て）とグローバル帰属割り当てを両方サポートしており、DynaMask、ExtremalMask、Retainといった手法により動的かつ文脈に適した説明が可能である。