[論文レビュー] MetaPred: Meta-Learning for Clinical Risk Prediction with Limited Patient Electronic Health Records

Xi Sheryl Zhang, Fengyi Tang+3 more|arXiv (Cornell University)|May 8, 2019

Machine Learning in Healthcare参考文献 36被引用数 8

ひとこと要約

MetaPredは、限られた電子歴史記録（EHR）データを用いた臨床リスク予測のためのモデルに依存しないメタラーニングフレームワークを提案する。複数の関連する臨床リスク予測タスクでメタラーナーを事前学習することで、少数のラベル付きサンプルを用いて低リソースのターゲットタスクに迅速に適応可能となり、MCIおよびアルツハイマー病の予測において、標準的なディープラーニングモデルを上回る優れた性能を達成する。

ABSTRACT

In recent years, increasingly augmentation of health data, such as patient Electronic Health Records (EHR), are becoming readily available. This provides an unprecedented opportunity for knowledge discovery and data mining algorithms to dig insights from them, which can, later on, be helpful to the improvement of the quality of care delivery. Predictive modeling of clinical risk, including in-hospital mortality, hospital readmission, chronic disease onset, condition exacerbation, etc., from patient EHR, is one of the health data analytic problems that attract most of the interests. The reason is not only because the problem is important in clinical settings, but also there are challenges working with EHR such as sparsity, irregularity, temporality, etc. Different from applications in other domains such as computer vision and natural language processing, the labeled data samples in medicine (patients) are relatively limited, which creates lots of troubles for effective predictive model learning, especially for complicated models such as deep learning. In this paper, we propose MetaPred, a meta-learning for clinical risk prediction from longitudinal patient EHRs. In particular, in order to predict the target risk where there are limited data samples, we train a meta-learner from a set of related risk prediction tasks which learns how a good predictor is learned. The meta-learned can then be directly used in target risk prediction, and the limited available samples can be used for further fine-tuning the model performance. The effectiveness of MetaPred is tested on a real patient EHR repository from Oregon Health & Science University. We are able to demonstrate that with CNN and RNN as base predictors, MetaPred can achieve much better performance for predicting target risk with low resources comparing with the predictor trained on the limited samples available for this risk.

研究の動機と目的

• 電子歴史記録（EHR）におけるラベル付き患者データが乏しい状況下で、低リソースの臨床リスク予測の課題に対処すること。
• 臨床現場において有効な訓練が可能なよう、大量のラベル付きデータを必要とする従来のディープラーニングモデルの限界を克服すること。
• 関連するよりリソースが豊富な臨床リスク予測タスクからの知識を活用して、低リソースのターゲットタスクにおける性能を向上させること。
• 最小限のラベル付きデータで新しい臨床リスク予測タスクに迅速に適応できる転移学習フレームワークを開発すること。
• メタラーニングが、認知機能低下や死亡率といった複雑で臨床的に重要な結果を予測する実世界のEHRデータにおいて、どのように有効に機能するかを実証すること。

提案手法

• 予測モデルの汎用的な初期化を学習するために、さまざまな関連する臨床リスク予測タスク（例：異なる認知症）のセットでメタラーナーを訓練する。
• 少数の例で新しいタスクに迅速に適応できるように最適化するため、モデルに依存しないメタラーニング（MAML）アプローチを採用する。
• 縦断的EHRシーケンスをモデリングするために、畳み込みニューラルネットワーク（CNN）や再帰的ニューラルネットワーク（RNN）などのベース予測器を用いる。
• エピソードベースの訓練を実施し、各エピソードでサンプリングされたソースドメインとターゲットドメインを用いて、低リソースの予測タスクをシミュレートする。
• メタトレーニング中に高リソースドメインからの監視情報を統合することで、目的レベルの適応を導入し、転送可能性を向上させる。
• ターゲットドメインから少数のラベル付きサンプルのみを用いて、メタラーニングで得たモデルをターゲットタスクに微調整する。

実験結果

リサーチクエスチョン

• RQ1 限られたラベル付きEHRデータしかない状況下で、メタラーニングが臨床リスク予測の性能を著しく向上させることができるか？
• RQ2 MCI やアルツハイマー病の予測において、MetaPredは低データ環境下での標準的な教師ありディープラーニングモデルと比べてどのように差をつけるか？
• RQ3 パーキンソン病やアムネジアなどのどのソースドメインが、ターゲット臨床リスクの予測に最も転送可能な知識を提供するか？
• RQ4 ソースドメインの数が、ターゲットタスクにおけるメタラーニングモデルの性能にどの程度影響を与えるか？
• RQ5 限られたラベル付きデータでも、MetaPredが学習した表現が、意味のある疾患特異的患者パターンを捉えられるか？

主な発見

• MetaPredは、ターゲットデータのみで訓練された標準的なディープラーニングモデルを著しく上回り、特にMCI やアルツハイマー病といった低リソースタスクにおいて顕著な性能向上を示す。
• MCI予測においてアムネジアをソースドメインとして使用した場合、ベースライン手法と比較してF1スコアで最大0.25の差を示し、強力なドメイン間転送能力を示している。
• 複数のソースドメインを用いることで、より包括的な表現空間が得られ、アブレーションスタディによりその有効性が裏付けられている。
• t-SNE可視化において、MetaPredが生成した患者表現は疾患タイプごとに明確に分離されており、意味のあるクラスタリングを示している。
• ターゲットタスクのラベル付きサンプルが100件未満であっても、MetaPredはそのような低データ環境下で、完全に教師ありモデルを上回る性能を達成している。
• 目的レベルの適応コンponentは、メタラーニング初期化を高リソースドメインの監視情報と一致させることで、一般化性能を向上させる。