[論文レビュー] Early Prediction of Sepsis From Clinical Data via Heterogeneous Event Aggregation

Luchen Liu, Haoxian Wu+3 more|arXiv (Cornell University)|Dec 30, 2019

Machine Learning in Healthcare参考文献 7被引用数 5

ひとこと要約

本論文では、長期間にわたる臨床的イベント系列を短縮するために、カテゴリー型および数値型の多様な臨床的イベントを、LSTMを用いて時間的相互作用を捉える前に、マルチヘッド表現にグループ化する異種イベント集約モデルを提案する。この手法は、PhysioNet 2019 結節症予測チャレンジにおいて、0.321のユーティリティスコアを達成し、電子的健康記録（EHR）データからの早期結節症検出の改善を示した。

ABSTRACT

Sepsis is a life-threatening condition that seriously endangers millions of people over the world. Hopefully, with the widespread availability of electronic health records (EHR), predictive models that can effectively deal with clinical sequential data increase the possibility to predict sepsis and take early preventive treatment. However, the early prediction is challenging because patients’ sequential data in EHR contains temporal interactions of multiple clinical events. And capturing temporal interactions in the long event sequence is hard for traditional LSTM. Rather than directly applying the LSTM model to the event sequences, our proposed model firstly aggregates heterogeneous clinical events in a short period and then captures temporal interactions of the aggregated representations with LSTM. Our proposed Heterogeneous Event Aggregation can not only shorten the length of clinical event sequence but also help to retain temporal interactions of both categorical and numerical features of clinical events in the multiple heads of the aggregation representations. In the PhysioNet/Computing in Cardiology Challenge 2019 [1], with the team named PKU_DLIB, our proposed model, in high efficiency, achieved utility score (0.321) in the full test set.

研究の動機と目的

• 電子的健康記録（EHR）に含まれる複雑で順序的な臨床的イベントから、早期結節症予測の課題に取り組む。
• 標準的なLSTMモデルが、異種臨床的イベント系列における長期的時間的依存関係を捉えることの制限を克服する。
• カテゴリー型および数値型の両方の臨床的イベントを、コンパクトなマルチヘッド表現に集約することで、予測性能を向上させる。
• 系列長を短縮しつつ、臨床的に関連する時間的ダイナミクスを保持することで、モデルの効率性と表現品質を向上させる。

提案手法

• 短い時間窓内での異種臨床的イベント（例：検査、生命徴、診断）を統合表現に集約する。
• 集約中に、カテゴリー型および数値型特徴を別々に符号化する複数のアテンションヘッドを用いることで、その特徴の相違を保持する。
• 集約表現に共通のLSTMネットワークを適用し、時間窓間の時間的依存関係をモデル化する。
• 集約されたイベント表現と時間的モデリングを統合することで、EHRデータにおける長系列学習を改善する。
• 時間的精度を高めるために、順序的なEHRデータ上でエンドツーエンドのモデルを学習し、結節症発症を予測する。
• PhysioNet 2019 結節症予測チャレンジの評価指標（ユーティリティスコア）を最適化する。

実験結果

リサーチクエスチョン

• RQ1 異種臨床的イベントをマルチヘッド表現に集約することで、EHR系列における時間的モデリングが向上するか？
• RQ2 集約による臨床的イベント系列長の短縮が、早期結節症検出の予測性能を保持または向上させるか？
• RQ3 本手法は、順序的なEHRデータにおける長期的時間的相互作用を捉える点で、標準的なLSTMモデルと比較して優れているか？
• RQ4 別々のアテンションヘッドでカテゴリー型および数値型特徴の相互作用を保持することで、モデルの汎化能力および正確性が向上する程度はいかほどか？

主な発見

• 提案された異種イベント集約モデルは、PhysioNet 2019 結節症予測チャレンジの全テストセットで、0.321のユーティリティスコアを達成した。
• イベントをコンパクトな表現に集約することで、入力系列長が顕著に短縮され、計算効率が向上した。
• マルチヘッド集約戦略により、カテゴリー型および数値型の臨床的特徴間の時間的相互作用が効果的に保持された。
• 順序的なEHRデータにおける長距離依存関係を捉える点で、本手法は標準的なLSTMアプローチを上回った。
• 本手法は高い効率性と強力な予測性能を示し、リアルタイムの臨床応用に適していることがわかった。
• 結果から、異種イベントの構造的集約が、EHRベースの結節症予測における時間的モデリングを強化することが確認された。