[論文レビュー] Patient trajectory prediction in the Mimic-III dataset, challenges and pitfalls

José F. Rodrigues, Gabriel Spadon+2 more|arXiv (Cornell University)|Sep 10, 2019

Machine Learning in Healthcare参考文献 25被引用数 7

ひとこと要約

本稿では、Mimic-IIIデータセットにおける患者の軌跡を予測するため、並列で双方向の最小ゲートリカレントユニット（MGRU）を用いた深層学習モデル、LIG-Doctorを提案する。ICD-9の粗い編碼（HCUP-CCS）を活用することで、臨床記録の低基数性と高粒度性に起因する課題を克服し、Recall@kにおいて最先端の性能を達成した。

ABSTRACT

Automated medical prognosis has gained interest as artificial intelligence evolves and the potential for computer-aided medicine becomes evident. Nevertheless, it is challenging to design an effective system that, given a patient's medical history, is able to predict probable future conditions. Previous works, mostly carried out over private datasets, have tackled the problem by using artificial neural network architectures that cannot deal with low-cardinality datasets, or by means of non-generalizable inference approaches. We introduce a Deep Learning architecture whose design results from an intensive experimental process. The final architecture is based on two parallel Minimal Gated Recurrent Unit networks working in bi-directional manner, which was extensively tested with the open-access Mimic-III dataset. Our results demonstrate significant improvements in automated medical prognosis, as measured with Recall@k. We summarize our experience as a set of relevant insights for the design of Deep Learning architectures. Our work improves the performance of computer-aided medicine and can serve as a guide in designing artificial neural networks used in prediction tasks.

研究の動機と目的

• 縦断的電子健康記録（EHR）を用いた未来の患者診断を深層学習で予測する課題に対処すること。
• Mimic-IIIのような低基数性・高粒度性のデータセットで失敗する既存モデルの限界を克服すること。
• 臨床現場におけるシーケンス・トゥ・シーケンス予測において、効果的なアーキテクチャ選択とハイパーパramータを同定すること。
• 公開データを用いた患者の軌跡予測の再現可能でオープンソースの手法を提供すること。
• 今後の研究を支援するため、臨床予後予測のための深層学習モデル設計における落とし穴とベストプラクティスを特定すること。

提案手法

• Mimic-IIIのICD-9コードをHCUP-CCS分類を用いて前処理し、粒度を低くすることでモデルの一般化性能を向上させる。
• 時間的依存性を効率的に捉えるために、最小ゲートリカレントユニット（MGRU）を用いた二重ブランチで双方向のアーキテクチャを設計する。
• シーケンス・トゥ・シーケンスの目的関数でモデルを訓練し、主評価指標としてRecall@kを最適化する。
• LSTM、GRU、MGRUなどの複数のRNNバリアントおよびアーキテクチャ構成を広範囲に比較し、最適なパフォーマンスを同定する。
• ドロップアウト、学習率スケジューリング、早期停止などの標準的な深層学習技術を用い、過学習を防止する。
• 同一の設定とコードを用いて、Choiら（2016）を含む最先端のベースラインと結果を検証する。

実験結果

リサーチクエスチョン

• RQ1 LSTM、GRU、MGRUなどの異なるRNNアーキテクチャは、低基数性・高粒度性のMimic-IIIデータセット上でどのように性能を発揮するか？
• RQ2 RNNに複数の層を積み重ねることで、患者の軌跡予測性能が向上するか？
• RQ3 より粗い疾患コード体系（HCUP-CCS）を用いることで、生のICD-9コードに比べてモデル性能が顕著に向上するか？
• RQ4 特にゲートの複雑さの観点から、臨床シーケンス予測において最良の結果をもたらすアーキテクチャ的選択は何か？
• RQ5 同じベンチマーク上で、提案手法は既存の最先端手法と比較してRecall@kの観点でどのように差をつけるか？

主な発見

• MGRUベースのモデルは、同一の設定と評価指標下で、Choiら（2016）を含む既存の最先端手法を上回った。
• RNNに複数の層を積み重ねることで性能が低下し、最適な結果を得るためには単一層アーキテクチャを採用した。
• ゲート数が少ないシンプルなMGRUセルが、LSTM や GRU よりも同程度または優れた性能を発揮した。これは、ゲートの必要性に関する理論的仮定に疑問を呈するものである。
• HCUP-CCSによるコード化の導入により、Mimic-IIIのスケールを考慮すると、生のICD-9コードよりもモデル性能が顕著に向上した。
• 並列で双方向のMGRU設計は非常に有効であった。これは、より専用化された並列ブランチの組み合わせによるさらなる検討の余地を示唆している。
• 本研究は、データの基数性が低い状況では、高すぎるモデルの複雑さが必ずしも性能向上をもたらさないことを強調している。