[論文レビュー] Techniques for visualizing LSTMs applied to electrocardiograms

Jos van der Westhuizen, Joan Lasenby|arXiv (Cornell University)|May 23, 2017

Time Series Analysis and Forecasting参考文献 41被引用数 14

ひとこと要約

この論文は、単一誘導心電図（ECG）における長短期記憶（LSTM）ネットワークの解釈のための4つの可視化手法を評価し、入力削除マスクを学習する方法が顕著な特徴を最も効果的に特定することを発見した。この手法は、真のクラススコアの低下を最大限にし、医学的理論と整合しており、ECG分類におけるLSTM意思決定の最も解釈可能で信頼性の高い説明を提供する。

ABSTRACT

This paper explores four different visualization techniques for long short-term memory (LSTM) networks applied to continuous-valued time series. On the datasets analysed, we find that the best visualization technique is to learn an input deletion mask that optimally reduces the true class score. With a specific focus on single-lead electrocardiograms from the MIT-BIH arrhythmia dataset, we show that salient input features for the LSTM classifier align well with medical theory.

研究の動機と目的

• LSTMの医療時系列データにおける解釈可能性を向上させること、特にECG分類に特化して。
• 連続値時系列データにおける顕著な入力特徴を特定するための4つの可視化手法を評価・比較すること。
• 臨床的知識と整合する意味のあるパターンを最もよく明らかにする手法を特定すること。
• アーキテクチャの変更なしに、摂動に基づく手法がLSTM意思決定を説明する有効性を評価すること。
• ECGデータにおける顕著性手法を比較するための信頼性の高い定量的指標を確立すること。

提案手法

• 本研究は4つの可視化手法を評価する：時系列出力スコア、クラスモード可視化、入力オクルージョン、学習された入力削除マスク。
• 入力オクルージョンでは、サイズwのスライディングウインドウを用いて入力セグメントをマスクし、クラススコアs_cの低下を測定する。
• 学習された削除マスクは勾配ベース最適化により最適化され、真のクラススコアを最も大きく低下させる最小の入力領域を同定する。
• 正規化されたスコア低下指標が使用され、(T - M^(n))/T の比率によって、より大きなオクルージョン領域をペナルティ付ける。
• モデルの入力と出力のみを用い、アーキテクチャの変更は不要であり、単一誘導ECGを用いたMIT-BIH心律失常データセットに適用される。
• ハイパーパrameterは視覚的分析により調整され、MIT-BIHではw=25、MNISTではw=5が使用され、α ∈ [0,1] はオクルージョンのしきい値を設定する。

実験結果

リサーチクエスチョン

• RQ1 連続値時系列データ（ECGなど）に適用されたLSTMにおける顕著な入力特徴を特定する際、どの可視化手法が最も効果的か？
• RQ2 各手法が特定する顕著な特徴は、心不全の臨床的知識とどの程度整合しているか？
• RQ3 入力削除マスク学習のような摂動ベース手法は、勾配ベースやオクルージョンベースの手法に比べ、解釈可能性とスコア低下の両面で優れているか？
• RQ4 オクルージョンのしきい値や入力ウインドウサイズの変更に伴い、可視化手法の性能に有意な差が生じるか？
• RQ5 各クラスの全テストデータにわたり、顕著な領域が一貫して特定されるか、どの程度一貫性があるか？

主な発見

• 学習された入力削除マスク手法が、真のクラススコアs_cの平均低下を最も大きくし、オクルージョン、クラスモード可視化、時系列出力スコアを上回った。
• α = 0.9のときでも、学習されたマスクは依然としてs_cに顕著な低下を引き起こしており、分類に最も重要な特徴を同定していることが示された。
• 学習されたマスクが特定した顕著な入力領域は、QRS複合波やSTセグメントといった医学的に認識されたECG特徴とよく一致した。
• 入力オクルージョンとマスク手法は、臨床的に関連する特徴を効果的に特定したが、クラスモード可視化は完全に解釈不能な結果を生じた。
• 学習されたマスクの性能は、さまざまな削除しきい値に対して安定しており、αにかかわらず、キーマスク特徴を一貫して同定していることが示された。
• 本研究では、多次元生理的信号が可視化を複雑にし、解釈性を低下させることを発見した。これにより、多次元LSTMの解釈は未解決の問題のまま残っている。