[論文レビュー] Clinical Intervention Prediction and Understanding using Deep Networks

Harini Suresh, Nathan Hunt+4 more|arXiv (Cornell University)|May 23, 2017

Machine Learning in Healthcare参考文献 15被引用数 78

ひとこと要約

本論文は、前向きLSTMとCNNモデルを開発し、マルチモーダルMIMIC-IIIデータを用いてICU介入の開始と離脱を予測し、最先端のAUCを達成するとともに、特徴のオクルージョンと活性化分析を通じた解釈性を提供する。

ABSTRACT

Real-time prediction of clinical interventions remains a challenge within intensive care units (ICUs). This task is complicated by data sources that are noisy, sparse, heterogeneous and outcomes that are imbalanced. In this paper, we integrate data from all available ICU sources (vitals, labs, notes, demographics) and focus on learning rich representations of this data to predict onset and weaning of multiple invasive interventions. In particular, we compare both long short-term memory networks (LSTM) and convolutional neural networks (CNN) for prediction of five intervention tasks: invasive ventilation, non-invasive ventilation, vasopressors, colloid boluses, and crystalloid boluses. Our predictions are done in a forward-facing manner to enable "real-time" performance, and predictions are made with a six hour gap time to support clinically actionable planning. We achieve state-of-the-art results on our predictive tasks using deep architectures. We explore the use of feature occlusion to interpret LSTM models, and compare this to the interpretability gained from examining inputs that maximally activate CNN outputs. We show that our models are able to significantly outperform baselines in intervention prediction, and provide insight into model learning, which is crucial for the adoption of such models in practice.

研究の動機と目的

• 異種のICUデータ（生体兆候、検査値、ノート、人口統計情報）を統合して、侵襲介入の開始と離脱を予測する。
• 6時間のギャップウィンドウを持つ前向き・リアルタイム予測モデルを開発する。
• マルチタスク介入予測のためにLSTMとCNNアーキテクチャを比較する。
• 特徴オクルージョン（LSTM）と入力活性化分析（CNN）によるモデルの解釈性を探求する。

提案手法

• 静的変量、経時的な生体指標/検査値、ノートを、ノートのトピック分布を含む1時間ごとの特徴ベクターに結合する。
• ノートを50トピックのLDA分布として時系列で複製表現する。
• 生理学的語彙を使用し、zスコア化した生体指標を離散化して欠損を捕捉しノイズを減らす。
• 2つの深層アーキテクチャを訓練する（LSTMは512ニューロンの層を2つ、CNNはマルチグラニュラリティの時系列畳み込み）、およびロジスティック回帰をベースラインとする。
• クラス別AUCとマクロAUCで評価し、70/10/20の訓練/検証/テスト分割と検証AUCでの早期停止を用いる。

実験結果

リサーチクエスチョン

• RQ1 ICU内で全利用可能データモダリティを用いて、侵襲および非侵襲介入の開始、離脱、継続状況を深層学習モデルで予測できるか？
• RQ2 LSTMとCNNアーキテクチャは、ICU介入予測のマルチタスクに対して補完的な強みを提供するか？
• RQ3 異なるデータモダリティ（生体指標/検査値 vs. ノート vs. 静的人口統計）は、各介入の予測性能にどう寄与するか？
• RQ4 これらのモデルは、特徴オクルージョン（LSTM）と活性化分析（CNN）によって解釈可能か？

主な発見

• 深層アーキテクチャは、開始、離脱、継続中、停止中を含む5つのICU介入を予測するタスクで最先端のAUCを達成。
• 生理学的語彙表現は、低頻度イベントの開始予測を改善（例: ventilation onsetを0.61から0.75へ、colloid bolus onsetを0.52から0.72へ）する。
• LSTMのオクルージョンでは、侵襲的介入の予測に生体指標/検査値が寄与し、ノート/トピックはより非侵襲的タスクで支配的であることを示す。
• CNNの解析は、臨床的に妥当な短期的軌跡と特定の出力を最大化する幻覚的入力を明らかにし、解釈性を支援する。
• 離脱予測はAUCのばらつきが小さく、介入の中止決定に臨床的な一貫性が高いことを示唆する。