[論文レビュー] Explaining Deep Classification of Time-Series Data with Learned Prototypes

Alan H. Gee, Diego García-Olano+2 more|arXiv (Cornell University)|Apr 18, 2019

Phonocardiography and Auscultation Techniques参考文献 11被引用数 30

ひとこと要約

本稿では、潜在空間における多様で代表的なプロトタイプを学習することで、深層時系列分類のモデルの解釈性を向上させるプロトタイプベースの説明可能AIフレームワークを提案する。プロトタイプ多様性損失を導入することで、心電図、呼吸、音声波形において分類精度とカバレッジが向上し、徐脈、無呼吸、発話の発音など臨床的に関連する特徴が明らかになった。

ABSTRACT

The emergence of deep learning networks raises a need for explainable AI so that users and domain experts can be confident applying them to high-risk decisions. In this paper, we leverage data from the latent space induced by deep learning models to learn stereotypical representations or "prototypes" during training to elucidate the algorithmic decision-making process. We study how leveraging prototypes effect classification decisions of two dimensional time-series data in a few different settings: (1) electrocardiogram (ECG) waveforms to detect clinical bradycardia, a slowing of heart rate, in preterm infants, (2) respiration waveforms to detect apnea of prematurity, and (3) audio waveforms to classify spoken digits. We improve upon existing models by optimizing for increased prototype diversity and robustness, visualize how these prototypes in the latent space are used by the model to distinguish classes, and show that prototypes are capable of learning features on two dimensional time-series data to produce explainable insights during classification tasks. We show that the prototypes are capable of learning real-world features - bradycardia in ECG, apnea in respiration, and articulation in speech - as well as features within sub-classes. Our novel work leverages learned prototypical framework on two dimensional time-series data to produce explainable insights during classification tasks.

研究の動機と目的

• 新生児集中治療における高リスクの臨床意思決定に用いられる深層学習モデルにおける解釈性の欠如に対処すること。
• 後処理による解釈性の限界を克服し、忠実でプロセス内での説明が可能なように、トレーニングプロセスに直接プロトタイプ学習を統合すること。
• 重複するか曖昧なクラス境界を示す時系列データにおいて、モデルの性能とプロトタイプの多様性を向上させること。
• 臨床的に意味のある表現型を反映する解釈可能でフィードバック駆動のプロトタイプを提供することで、臨床医専門家との協働を可能にすること。
• 学習されたプロトタイプが心電図、呼吸、音声波形における微細な病理的特徴を検出する有用性を実証すること

提案手法

• 潜在空間における再構成と分類を同時に最適化するため、プロトタイプベースのオートエンコーダに分類ヘッドを統合する。
• プロトタイプのクラスタリングを防ぎ、一意で重複のない表現を促進するため、損失関数にプロトタイプ多様性ペナルティ項 $\lambda_{pd} \cdot PDL(p_1, ..., p_m)$ を導入する。
• 潜在空間におけるプロトタイプ間の $L_2$ 距離を用いて近接度を定量化し、類似性に対するペナルティを課して多様性を向上させる。
• バックプロパゲーションを用いてエンドツーエンドでモデルを訓練し、最適化中にプロトタイプを更新することで、顕著で代表的な特徴を反映させる。
• 2次元潜在空間におけるプロトタイプの可視化により、徐脈や無呼吸などの臨床的に関連する信号パターンに対応する方法を解釈する。
• 多様性のハイパーパrameter $\lambda_{pd}$ を微調整し、プロトタイプの解釈性と分類精度のバランスをとる

実験結果

リサーチクエスチョン

• RQ1 深層オートエンコーダモデルの潜在空間における学習済みプロトタイプは、心電図、呼吸、発話波形などの時系列データにおいて、臨床的に関連する特徴を忠実に表現できるか？
• RQ2 プロトタイプ多様性ペナルティを導入することで、時系列分類におけるモデルの精度、プロトタイプのカバレッジ、解釈性にどのような影響を与えるか？
• RQ3 プロトタイプは、医師が区別しにくい微細な、重複する、または中間の病理的表現型（例：軽度対重度の徐脈）をどの程度明らかにできるか？
• RQ4 信号品質が異なる異なる時系列モodal（例：心電図対呼吸対音声）において、モデルの性能とプロトタイプの質はどのように変化するか？
• RQ5 臨床医は、調整可能な多様性正則化を用いて、反復的にモデルの挙動をフィードバックによって改善できるか？

主な発見

• プロトタイプ多様性ペナルティは、プロトタイプの一意性を顕著に向上させ、$\lambda_{pd} = 500$ の設定で、すべてのタスクにおいてベースラインより高い多様性スコアを達成した。
• $\lambda_{pd}$ の微調整により、分類精度とデータカバレッジが向上し、特に重複するか曖昧なクラス境界領域で顕著に改善された。
• モデルは微細または中間のクラス（例：軽度の徐脈）に多くのプロトタイプを割り当てており、人間が判別しにくい特徴を捉えている。
• ネットワークの深さを増やし、学習率を最適化することで、3つのタスクすべてで精度とプロトタイプ多様性がさらに向上した。
• 少数のプロトタイプでほぼ完全な再構成が達成されたが、分類精度に悪影響を及えたため、解釈性と性能のトレードオフが示された。
• 本フレームワークにより、臨床医とモデルのクローズドループ協働が可能となり、専門家が多様性正則化を介してプロトタイプ学習をガイドすることで、臨床的に意味のある表現型の発見が可能になった。