[論文レビュー] Forecasting Individualized Disease Trajectories using Interpretable Deep Learning

Ahmed M. Alaa, Mihaela van der Schaar|arXiv (Cornell University)|Oct 24, 2018

Machine Learning in Healthcare参考文献 23被引用数 10

ひとこと要約

本論文では、再帰的ニューラルネットワークの予測精度と状態空間モデルの臨床的解釈可能性を組み合わせた、深層確率的フレームワークであるPhased Attentive State Space (PASS)モデルを紹介する。アテンション機構を用いて記憶を持つ非マルコフ型状態遷移をモデル化し、時間的フェーズを持つLSTMを用いて不規則な医療データの連続的時間処理を行うことで、PASSは個別化された疾患経路予測において優れた性能を発揮するとともに、臨床医が過去の臨床的イベントが将来の結果に与える影響を解釈できるようにする。

ABSTRACT

Disease progression models are instrumental in predicting individual-level health trajectories and understanding disease dynamics. Existing models are capable of providing either accurate predictions of patients prognoses or clinically interpretable representations of disease pathophysiology, but not both. In this paper, we develop the phased attentive state space (PASS) model of disease progression, a deep probabilistic model that captures complex representations for disease progression while maintaining clinical interpretability. Unlike Markovian state space models which assume memoryless dynamics, PASS uses an attention mechanism to induce "memoryful" state transitions, whereby repeatedly updated attention weights are used to focus on past state realizations that best predict future states. This gives rise to complex, non-stationary state dynamics that remain interpretable through the generated attention weights, which designate the relationships between the realized state variables for individual patients. PASS uses phased LSTM units (with time gates controlled by parametrized oscillations) to generate the attention weights in continuous time, which enables handling irregularly-sampled and potentially missing medical observations. Experiments on data from a realworld cohort of patients show that PASS successfully balances the tradeoff between accuracy and interpretability: it demonstrates superior predictive accuracy and learns insightful individual-level representations of disease progression.

研究の動機と目的

• 疾患進行モデリングにおける予測精度と臨床的解釈可能性の間の長年の妥協を是正すること。
• 現実の臨床的ばらつきを反映する、複雑で非マルコフ型の状態ダイナミクスを、個別患者の経路にモデル化すること。
• アテンション重みを通じて、過去の治療、合併症、バイオマーカーが将来の疾患ステージに与える影響を臨床医が解釈できるようにすること。
• 連続時間における不規則にサンプリングされた、あるいは欠損のある医療観察を処理するフレームワークを開発すること。
• 高い予測性能と、透明で臨床的に意味のある疾患進行の表現の両立を図ること。

提案手法

• PASSモデルは、分離された発生分布と遷移分布を持つ深層確率的状態空間アーキテクチャを採用している。
• 従来のマルコフ型状態遷移に代わり、将来の状態に対する予測的関連性に基づいて、過去の状態を動的に重みづけるアテンション機構を導入している。
• アテンション重みは、パラメータ化された振動によって制御される時間ゲートを持つ、時間的フェーズを持つLSTMネットワークによって生成される。
• モデルは、重み付きの過去状態遷移の和として将来の状態確率を計算し、重みは歴史的状態の影響を反映している。
• アテンション機構により、疾患経路を形作る臨床的に関連のある過去の出来事（例：薬剤投与）にモデルが焦点を当てる。
• フレームワークは、静的特徴、治療、合併症、縦断的バイオマーカーを含む、実世界のEHRデータ上でエンドツーエンドに訓練される。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、個別化された疾患経路予測において、予測精度と臨床的解釈可能性の両方を同時に達成できるか？
• RQ2 アテンション機構を用いることで、疾患進行における非マルコフ型で記憶を持つ状態遷移をどのようにモデル化できるか？
• RQ3 深層モデルにおけるアテンション重みは、患者固有の疾患経路の駆動要因について、どの程度臨床的に意味のある洞察を提供できるか？
• RQ4 本モデルは、実世界のEHRデータにおける不規則にサンプリングされた、あるいは欠損のある臨床的観察をどのように処理するか？
• RQ5 提案されたモデルは、標準的なRNNおよびマルコフ型HMMよりも、予測精度と解釈可能性の両面で優れているか？

主な発見

• PASSは、慢性疾患進行の実世界EHRデータにおいて、標準的なRNNおよびマルコフ型HMMよりも優れた予測精度を達成した。
• PASSが生成するアテンション重みは、臨床的に解釈可能な洞察を提供し、例えばACE阻害薬投与の早期介入が疾患ステージ進行を遅らせる影響を特定した。
• モデルは、同じ現在の疾患ステージにあっても、過去の履歴（例：治療露出履歴）が異なる患者を明確に区別できた。
• PASSは、マルコフ型モデルが記憶なしの仮定により表現できない、非定常的で複雑な疾患経路ダイナミクスを捉えた。
• 時間的フェーズを持つLSTM部は、連続時間における不規則にサンプリングされた観察や欠損値の処理を効果的に行い、現実のデータノイズに対して高い耐性を示した。
• 臨床医は、アテンション重みを視覚的に確認することで、患者の予測された将来の疾患ステージに最も影響を与えた過去の臨床的出来事が何かを理解できる。