[論文レビュー] Game-Theoretic Interpretability for Temporal Modeling

Guang-He Lee, David Alvarez-Melis+1 more|arXiv (Cornell University)|Jun 30, 2018

Explainable Artificial Intelligence (XAI)参考文献 9被引用数 5

ひとこと要約

本稿は、複雑な予測器と単純で解釈可能な説明器を協力的に訓練することで、アーキテクチャ的制約なしに局所的な解釈可能性を保証するゲーム理論的フレームワークを導入する。この手法は、最高水準の精度を達成するとともに、安定した局所的解釈可能な説明を生成し、株価およびベアリング劣化データセットで、乖離度および全変動度の指標において顕著な改善が確認された。

ABSTRACT

Interpretability has arisen as a key desideratum of machine learning models alongside performance. Approaches so far have been primarily concerned with fixed dimensional inputs emphasizing feature relevance or selection. In contrast, we focus on temporal modeling and the problem of tailoring the predictor, functionally, towards an interpretable family. To this end, we propose a co-operative game between the predictor and an explainer without any a priori restrictions on the functional class of the predictor. The goal of the explainer is to highlight, locally, how well the predictor conforms to the chosen interpretable family of temporal models. Our co-operative game is setup asymmetrically in terms of information sets for efficiency reasons. We develop and illustrate the framework in the context of temporal sequence models with examples.

研究の動機と目的

• 連続的時系列データに対して特に顕著な解釈可能性の欠如を是正すること。
• 予測器の関数クラスに制限を設けずに解釈可能性を向上させるフレームワークの開発。
• 近傍領域における予測器と単純で解釈可能な説明器の整合性を保つことで、局所的解釈可能性を実現すること。
• 協力的ゲーム理論的定式化を通じて、予測精度と解釈可能性のバランスを取ること。
• 実世界の時系列データセット（株価、機械的ベアリング劣化など）における本手法の妥当性の検証。

提案手法

• 複雑な予測器 $ f \in \mathcal{F} $ と単純で解釈可能な説明器 $ g \in \mathcal{G} $ の間で二プレーヤー協力ゲームを定式化し、$ \mathcal{G} $ は制限されている（例：線形モデルや意思決定スタブ）。
• 局所的解釈可能性は近傍に基づく乖離測度により強制される：$ \min_{g \in \mathcal{G}} \frac{1}{|\mathcal{B}_\epsilon(x_t)|} \sum_{x' \in \mathcal{B}_\epsilon(x_t)} d(f(x'), g(x')) $、これにより予測器が局所的に説明器と一致するように保証される。
• ゲームは非対称な目的関数を用いる：予測器は予測誤差を最小化し、説明器は予測器からの乖離を最小化するが、$ \lambda $ で制御される正則化項が付加される。
• 説明器は予測器と同時に訓練され、これにより予測器は関数的に複雑なまま、局所的解釈可能な挙動に導かれる。
• 本手法は、予測器に深層時系列モデル（例：LSTM、CNN）と説明器にリッジ回帰を用い、近傍窓サイズを $ \epsilon $ として実装される。
• 時間経過にわたる説明の安定性と解釈可能性を評価するために、全変動度（TV）と乖離度の指標が用いられる。

実験結果

リサーチクエスチョン

• RQ1 アーキテクチャ的制約なしに、解釈不能な複雑な予測器を局所的に解釈可能なモデルに従わせるのは可能か？
• RQ2 時系列モデリング、特に連続的時系列データに対して、解釈可能性をどのように形式化できるか？
• RQ3 時系列モデリングにおいて、予測精度と局所的解釈可能性のトレードオフは何か？
• RQ4 協力的ゲーム理論的フレームワークは、標準的なディープラーニングや事後的説明手法と比較して、安定性と解釈可能性をどのように向上させるか？
• RQ5 本フレームワークは、実世界のデータセットにおけるさまざまな時系列パターンにおいて一貫性があり意味のある説明を生成できるか？

主な発見

• ベアリングデータセットでは、$ \lambda = 0.1 $ 時に、乖離度が 3.431 × 10⁻²、TV が 5.706 × 10⁻² にまで低下し、ディープモデル（4.197 × 10⁻² および 7.341 × 10⁻²）と比較して顕著に改善された。
• 株価市場データセットでは、ゲームモデルが乖離度をディープモデルの 4.197 × 10⁻² から 3.431 × 10⁻² に、TV を 7.341 × 10⁻² から 5.706 × 10⁻² に低下させ、予測誤差（RMSE = 8.136 × 10⁻²）は低く維持した。
• $ \lambda = 0.1 $ 時に、ゲームモデルは予測誤差（RMSE 8.057 × 10⁻²）がディープモデル（8.136 × 10⁻²）を上回り、正則化効果が裏付けられた。
• 重みベクトルの可視化により、ゲームモデルは特に第9時刻以降において、ディープモデルよりも安定的かつ時間的に一貫性のある説明を生成した。
• ベアリングデータセットにおける暗黙的ゲーム定式化では、$ \lambda $ の増加に伴い解釈可能性が単調に向上（乖離度およびTVの減少）し、精度と解釈可能性の制御可能なトレードオフが確認された。
• 暗黙的設定における説明器のパラメータは、ベアリングデータの明確な時間的パターンを捉えており、特に第9時刻以降の変化を示しており、意味のある局所的解釈可能性を示している。