[論文レビュー] DeepCare: A Deep Dynamic Memory Model for Predictive Medicine

Trang Pham, Truyen Tran+2 more|arXiv (Cornell University)|Feb 1, 2016

Machine Learning in Healthcare参考文献 39被引用数 82

ひとこと要約

DeepCareは、不規則な間隔の、エピソード型の医療データを処理するための時間パrameter化LSTMを用いて、電子歴史記録（EMR）における長期的な時間的依存関係をモデル化するエンドツーエンドのディープラーニングモデルを提案する。診断と介入をベクトル空間に埋め込み、時間に適応した忘却メカニズムを組み込み、マルチスケール時間プーリングを適用することで、糖尿病および精神保健のコhortにおける将来の疾患進行および高リスク結果の予測で最先端のパフォーマンスを達成した。

ABSTRACT

Personalized predictive medicine necessitates the modeling of patient illness and care processes, which inherently have long-term temporal dependencies. Healthcare observations, recorded in electronic medical records, are episodic and irregular in time. We introduce DeepCare, an end-to-end deep dynamic neural network that reads medical records, stores previous illness history, infers current illness states and predicts future medical outcomes. At the data level, DeepCare represents care episodes as vectors in space, models patient health state trajectories through explicit memory of historical records. Built on Long Short-Term Memory (LSTM), DeepCare introduces time parameterizations to handle irregular timed events by moderating the forgetting and consolidation of memory cells. DeepCare also incorporates medical interventions that change the course of illness and shape future medical risk. Moving up to the health state level, historical and present health states are then aggregated through multiscale temporal pooling, before passing through a neural network that estimates future outcomes. We demonstrate the efficacy of DeepCare for disease progression modeling, intervention recommendation, and future risk prediction. On two important cohorts with heavy social and economic burden -- diabetes and mental health -- the results show improved modeling and risk prediction accuracy.

研究の動機と目的

• 電子歴史記録（EMR）から得られる患者の健康トレジャリーにおける長期的時間的依存関係をモデル化する課題に対処すること。
• 変動するサイズの入院および介入を伴う、不規則なタイミングのエピソード型医療データを処理すること。
• 手動による特徴工学が必要なく、予後予測、介入推奨、疾患進行モデル化をサポートするエンドツーエンドのシステムを開発すること。
• 医療介入の将来の疾患トレジャリーおよびリスク予測に与える影響を組み込むこと。
• パラメータ共有とスケーラブルなアーキテクチャを通じて、多様なEMRシステムおよび医療コhortに汎用的に展開可能にする。

提案手法

• 各患者の入院を、診断と介入を共有ベクトル空間に埋め込むことで、連続的ベクトルとして表現する。
• 入院間の不規則な時間間隔をモデル化するため、時間パrameter化された忘れゲートを備えた変更版の長短期記憶（LSTM）ネットワークを用いる。
• 自然な忘却と疾患固有の進行を反映するために、単調減衰と完全な時間パrameter化の2つの忘却メカニズムを導入する。
• 最近の出来事に重点を置くために、減衰重みを用いたマルチスケール時間プーリングを適用し、臨床的リスクにおける最近性効果を捉える。
• プーリングにより歴史的および現在の健康状態を集約し、それを全結合ニューラルネットワークに通して将来の結果を予測する。
• 時間遡及バックプロパゲーションを用いて、全モデルをエンドツーエンドで学習し、疾患ステージ予測およびリスク分類を最適化する。

実験結果

リサーチクエスチョン

• RQ1 ディープニューラルネットワークは、臨床的予後予測のため、不規則でエピソード型のEMRデータにおける長期的依存関係を効果的にモデル化できるか？
• RQ2 医療介入が将来の疾患トレジャリーに与える因果的影響を明示的にモデル化するにはどうすればよいか？
• RQ3 標準的なRNNやLSTMと比較して、時間パrameter化が不規則な医療シーケンスにおけるリスク予測精度をどの程度向上させるか？
• RQ4 マルチスケール時間プーリングは、臨床的リスク推定における最近性効果を捉える能力を向上させるか？
• RQ5 エンドツーエンドのディープラーニングフレームワークは、糖尿病および精神保健分野における高リスク患者の結果予測において、従来の機械学習モデルを上回ることができるか？

主な発見

• DeepCareは、糖尿病患者の12か月以内の高リスク予測で79.0%のFスコアを達成し、ベースラインモデルを著しく上回った。
• 精神保健患者では、3か月の期間における高リスク予測で74.7%のFスコアを達成し、複雑で負担の大きいコhortにおいても優れたパフォーマンスを示した。
• 時間パrameter化された忘却と介入統合を組み込んだモデル（モデル9）が最高のパフォーマンスを示し、時間的および臨床的文脈のモデル化の重要性を示した。
• SVM、ランダムフォレスト、および標準的なRNNといった従来のモデルを上回り、高リスク予測のFスコアで10ポイント以上の向上を達成した。
• マルチスケール時間プーリングとニューラルネットワーク推論の活用により、時間の経過に伴い変化する動的な健康状態を捉えることができ、リスク推定が向上した。
• DeepCareは、糖尿病および精神保健の両データセットで競争力のあるパフォーマンスを示し、多様な臨床的状態およびデータ構造にわたる一般化可能性を検証した。