[論文レビュー] The Use of Autoencoders for Discovering Patient Phenotypes

Harini Suresh, Peter Szolovits+1 more|arXiv (Cornell University)|Mar 20, 2017

Machine Learning in Healthcare参考文献 14被引用数 21

ひとこと要約

本論文では、特にLSTMを用いた系列対系列自動エンコーダーを用いて、縦断的ICU生理的データから低次元で患者特有の埋め込みを学習し、背後にある患者の表現型を同定することを提案する。系列自動エンコーダーは、不規則で欠損値の多い時系列データの再構成において、固定長自動エンコーダーを上回り、MSEが低く、特に可変長のICU滞在においてより頑健な表現を達成した。

ABSTRACT

We use autoencoders to create low-dimensional embeddings of underlying patient phenotypes that we hypothesize are a governing factor in determining how different patients will react to different interventions. We compare the performance of autoencoders that take fixed length sequences of concatenated timesteps as input with a recurrent sequence-to-sequence autoencoder. We evaluate our methods on around 35,500 patients from the latest MIMIC III dataset from Beth Israel Deaconess Hospital.

研究の動機と目的

• 静的スコアを超える複雑で変化する生理的パターンを捉える、非教師ありでデータ駆動型の患者健康表現を開発すること。
• 不規則にサンプリングされ、欠損値があり、長さが異なるICU時系列データをモデル化する課題に取り組むこと。
• 自動エンコーダーが、背後の患者の重症度や臨床的経過を反映する意味のある低次元埋め込みを学習できるかを評価すること。
• 固定長と系列型自動エンコーダーのアーキテクチャを比較し、生理的時系列の再構成性能を評価すること。
• 学習された埋め込みが、多様なICU患者サブグループやケアユニットにわたって一般化できるかを評価すること。

提案手法

• MIMIC-IIIデータベースを用い、1名の患者あたり30の生理的特徴を抽出し、1時間ごとに集約し、1時間あたりの複数測定値の平均値をとった。
• 欠損値の処理にバックフィリングと平均補完を適用し、死亡リスクに偏りのないよう、入院死亡率で層別化した70/15/15の訓練/検証/テスト分割を実施した。
• 3種類の自動エンコーダー構造を訓練した：1層固定長、2層固定長、および系列自動エンコーダー（スタックドLSTM層を用いる）。
• 固定長モデルでは、30特徴量を4、16、32、64時間の時間窓にわたって連結し、1つの入力ベクトルとして扱い、全結合ブottleneck層による10倍の圧縮を実施した。
• 系列自動エンコーダーでは、時系列ステップを順番にエンコーダーLSTMに供給し、固定長の埋め込みを生成。その後、2番目のLSTMを用いて入力時系列を再構成した。
• 隠れ層にはReLU活性化関数、出力層にはシグモイド活性化関数を用い、ミニバッチサイズ128で訓練し、過学習を防ぐために早期停止を適用した。

実験結果

リサーチクエスチョン

• RQ1 LSTMを用いた系列自動エンコーダーは、固定長自動エンコーダーに比べ、不規則で欠損値の多いICU時系列データをより効果的に再構成できるか？
• RQ2 生理的データの異なる時間窓長（4、16、32、64時間）で学習した場合、自動エンコーダーの性能はどのように変化するか？
• RQ3 異なるICUユニット（例：MICU、CCU、SICU）の患者サブグループにわたって、学習された埋め込みはどれほど一般化できるか？
• RQ4 特に短い滞在期間の患者において、系列自動エンコーダーは固定長モデルに比べ、より頑健でノイズの少ない再構成を生み出すか？
• RQ5 学習された低次元埋め込みは、介入タイミング予測などの下流臨床予測タスクに有効な表現として機能できるか？

主な発見

• 系列自動エンコーダーは、全時間窓長で単層固定長自動エンコーダーを上回り、より低い平均二乗誤差（MSE）を達成した。これは、再構成性能が優れていることを示している。
• 系列自動エンコーダーは32時間窓長で2層固定長自動エンコーダーを上回り、異なるICUユニットからの小規模で層別化された患者サブセットでもより良い一般化性能を示した。
• 32時間窓長を用いた場合、全ケアユニットのサブグループでMSEが0.08未満を維持した。これは、人口の層別化に頑健であることを示している。
• 固定長自動エンコーダーの再構成時系列では、短い滞在期間の終盤にノイズが残る傾向があり、これは連結されたベクトルにおけるゼロパディングに起因する可能性がある。
• 系列自動エンコーダーは、可変長時系列をネイティブにモデル化できるため、特に短いICU滞在の患者において滑らかで時間的に整合性のある再構成を生み出した。
• 系列自動エンコーダーは、欠損値や不規則なサンプリングに対して優れた頑健性を示した。LSTMはエンコーディング段階で関係のないか、欠損した入力を選択的に忘れることができた。