[論文レビュー] Improving Clinician Performance in Classification of EEG Patterns on the Ictal-Interictal-Injury Continuum using Interpretable Machine Learning

Alina Jade Barnett, Zhicheng Guo+13 more|arXiv (Cornell University)|Nov 9, 2022

Machine Learning in Healthcare参考文献 27被引用数 5

ひとこと要約

本論文は、EEGパターンの無症候期-発作期-損傷連続体（IIIC）に沿って分類する解釈可能なディープラーニングモデル、ProtoPMed-EEGを紹介する。このモデルは、入力を学習済みの代表的パターン（プロトタイプ）と比較することで、ブラックボックス型の対応モデル（SPaRCNet）よりも高い精度を達成するとともに、事例ベースの説明を提供する。モデルは透明な意思決定により臨床的信頼を高め、2次元可視化によって病理的EEGパターンの連続的なグローバル構造を明らかにする。

ABSTRACT

In intensive care units (ICUs), critically ill patients are monitored with electroencephalograms (EEGs) to prevent serious brain injury. The number of patients who can be monitored is constrained by the availability of trained physicians to read EEGs, and EEG interpretation can be subjective and prone to inter-observer variability. Automated deep learning systems for EEG could reduce human bias and accelerate the diagnostic process. However, black box deep learning models are untrustworthy, difficult to troubleshoot, and lack accountability in real-world applications, leading to a lack of trust and adoption by clinicians. To address these challenges, we propose a novel interpretable deep learning model that not only predicts the presence of harmful brainwave patterns but also provides high-quality case-based explanations of its decisions. Our model performs better than the corresponding black box model, despite being constrained to be interpretable. The learned 2D embedded space provides the first global overview of the structure of ictal-interictal-injury continuum brainwave patterns. The ability to understand how our model arrived at its decisions will not only help clinicians to diagnose and treat harmful brain activities more accurately but also increase their trust and adoption of machine learning models in clinical practice; this could be an integral component of the ICU neurologists' standard workflow.

研究の動機と目的

• 臨床医の不足と観察者間差異によるICUにおけるEEG解釈能力の制限という臨床的課題に対処すること。
• 解釈不能なブラックボックス型ディープラーニングモデルのEEG解析における限界を克服すること。これらは解釈可能性に欠け、臨床的信頼を損なう。
• 分類性能を維持または向上させつつ、透明で人間が理解可能な説明を提供する解釈可能なモデルを開発すること。
• 2次元潜在空間におけるEEGパターンのグローバル構造を可視化し、EEGクラス間の遷移的パターンがどのように現れるかを明らかにすること。
• GUIを介して臨床ワークフローに統合し、リアルタイムでの検査と意思決定支援を可能にすること。

提案手法

• ProtoPMed-EEGは、IIICにおける各EEGクラスの代表的パターン（プロトタイプ）を学習するプロトタイプベースのディープラーニングを用いる。
• 予測は類似度比較による説明で実現される：「このEEGはそのプロトタイプに似ている」。これにより、事例ベースの解釈可能性が実現される。
• 構造を保全する次元削減技術を用いて、潜在空間のグローバル2次元埋め込みを生成し、EEGパターン間の関係を可視化する。
• 大規模なEEGデータセット上でモデルを訓練・評価し、ブラックボックス型のSPaRCNetモデルと性能を比較する。
• ブートストラップ法（サンプルおよび患者ベース）とp値計算を用いて、近傍解析における統計的有意性を評価する。
• 臨床医がモデルの意思決定、プロトタイプ、および2次元潜在空間を検査できるように、グラフィカルユーザーインターフェース（GUI）を開発する。

実験結果

リサーチクエスチョン

• RQ1 解釈可能なディープラーニングモデルは、IIICに沿ってEEGパターンを分類する際、ブラックボックス型モデルを上回る性能を示しつつ、人間が読める形の説明を提供できるか？
• RQ2 IIICにおけるEEGパターンの関係は、低次元の潜在空間にどのように現れ、連続的なスケールを形成するか？
• RQ3 解釈可能なモデルは、解釈不能なモデルと比較して、臨床的信頼性と意思決定プロセスにどの程度向上をもたらすか？
• RQ4 モデルの説明（プロトタイプ比較によるもの）は、臨床的推論と医学的知識と整合性を保っているか？
• RQ5 ブートストラップ法とp値で測定される統計的不確実性の下でも、モデルの性能は安定しているか？

主な発見

• ProtoPMed-EEGは、IIIC分類タスク全体において、SPaRCNet（ブラックボックス型）と比較して、AUROC（0.91 vs. 0.89）とAUPRC（0.74 vs. 0.70）の両方で高い値を達成した。
• ブートストラップサンプル（サンプルベース）では100%のサンプルで、AUPRCについて患者ベースのブートストラップサンプルでは77%以上のサンプルで、解釈可能なモデルがブラックボックス型を上回った。
• 近傍解析では、解釈可能なモデルが解釈不能なモデルを有意に上回っており、全クラスでp値 < 0.001であった。
• 潜在空間の2次元可視化により、EEGパターンが孤立しているのではなく、連続的かつ接続されたスケールを形成しており、明確なクラス間の遷移的パターンが確認された。
• プロトタイプ比較によるモデルの説明は安定的かつ再現可能であり、Annoy近似アルゴリズムの複数回の実行において、近傍解析の結果が0.01%未満の変動にとどまった。
• GUIにより、臨床医はモデルの意思決定、プロトタイプ、およびIIICのグローバル構造を検査可能となり、臨床ワークフローへの統合を支援した。