[論文レビュー] Unsupervised Representation for EHR Signals and Codes as Patient Status Vector

Sajad Darabi, Mohammad Kachuee+1 more|arXiv (Cornell University)|Oct 4, 2019

Machine Learning in Healthcare参考文献 28被引用数 4

ひとこと要約

本稿では、自己符号化器を用いて臨床コードとバイタルサインを統合し、患者状態ベクトル（PSV）に変換する2段階の教師なし表現学習手法を提案する。予測タスクとして死亡率と再入院率の両方において、eICUデータセット上での短時間および長時間のICU滞在期間において、単回訪問および複数回訪問の患者データを活用することで、先行手法を上回る汎化性能を達成する。

ABSTRACT

Effective modeling of electronic health records presents many challenges as they contain large amounts of irregularity most of which are due to the varying procedures and diagnosis a patient may have. Despite the recent progress in machine learning, unsupervised learning remains largely at open, especially in the healthcare domain. In this work, we present a two-step unsupervised representation learning scheme to summarize the multi-modal clinical time series consisting of signals and medical codes into a patient status vector. First, an auto-encoder step is used to reduce sparse medical codes and clinical time series into a distributed representation. Subsequently, the concatenation of the distributed representations is further fine-tuned using a forecasting task. We evaluate the usefulness of the representation on two downstream tasks: mortality and readmission. Our proposed method shows improved generalization performance for both short duration ICU visits and long duration ICU visits.

研究の動機と目的

• EHRモデリングにおけるラベル付きデータの不足に起因する課題に対処するため、教師なし表現学習手法を開発すること。
• 臨床コードとバイタル信号の多モodalなEHRデータを統合的に統一された患者状態ベクトルに変換すること。
• 短時間および長時間のICU滞在期間において異なる臨床的ダイナミクスを示す状況においても、モデルの汎化性能を向上させること。
• 事前学習段階で単回訪問および複数回訪問の患者データを活用し、表現の質を向上させること。
• 多様なEHRデータに対する教師なし事前学習が、死亡率および再入院率予測の性能向上に寄与することを実証すること。

提案手法

• 2段階の教師なし学習パイプラインを採用：まず、スパースな臨床コードと時系列バイタルサインを、分散表現に圧縮する自己符号化器を適用する。
• 自己符号化器からの表現を連結し、その後、時系列的依存関係を捉えるために予測タスクに基づく自己符号化器によるファインチューニングを実施する。
• 単回訪問の自己符号化ステップにより個々のICU滞在から学習し、複数回訪問の予測タスクにより縦断的パターンをモデル化する。
• 最終的な患者状態ベクトル（PSV）は、コード表現と信号表現を統合することで形成され、下流の分類タスクへの応用が可能となる。
• モデルは教師なしで事前学習され、その後、死亡率および再入院率予測タスクのファインチューニングに際して固定される。
• 本手法はeICUデータセット上で評価され、入力特徴として定期的なバイタルサインとICD-9コードが使用された。

実験結果

リサーチクエスチョン

• RQ1 2段階の教師なし学習フレームワークは、臨床コードとバイタルサインを統合的に統一された患者状態ベクトルに効果的に統合できるか？
• RQ2 単回訪問および複数回訪問のICUデータに対する事前学習が、死亡率および再入院率予測の下流タスク性能を向上させるか？
• RQ3 短時間および長時間のICU滞在期間において、異なる臨床的ダイナミクスを示す状況において、本手法はどのように汎化するか？
• RQ4 コードのみまたは信号のみの表現は、統合的モデリングと比較して性能にどの程度制限を受けるか？
• RQ5 教師なし事前学習により、高コストなラベル付きデータへの依存を軽減しつつ、EHR分析における予測精度を向上させることができるか？

主な発見

• コードと信号の両方の表現を統合したPSVモデルは、1時間〜24時間の死亡率予測タスクでPR-AUC 62.46（±0.20）およびROC 90.06（±0.12）を達成し、コードのみまたは信号のみのバージョンを上回った。
• 長時間滞在（24時間〜720時間）の状況では、PSVモデルがPR-AUC 48.88（±0.13）およびROC 85.90（±0.09）を達成し、ベースライン手法に比べて優れた汎化性能を示した。
• PSVモデルの半教師ありバージョンは、1時間〜24時間の死亡率予測タスクでPR-AUC 65.40（±0.35）およびROC 89.10（±0.59）を達成し、限られたラベルでも優れた性能を示した。
• Seq2SeqおよびTransformerベースラインは、1時間〜24時間の死亡率予測タスクでPR-AUCが10未満にとどまり、本手法は顕著に優れた性能を示した。
• 長時間滞在患者では性能が著しく低下した。これは、現在のEHRデータが長期的ICUケアの複雑なダイナミクスを十分に捉えていない可能性を示唆している。
• アブレーションスタディの結果、コードと信号の両方の表現を統合することで優れた結果が得られ、信号のみの表現では再入院予測において著しく性能が低かった（PR-AUC 30.47 ±0.13）。