[論文レビュー] Temporal Convolutional Neural Networks for Diagnosis from Lab Tests

Narges Razavian, David Sontag|arXiv (Cornell University)|Nov 25, 2015

Machine Learning in Healthcare参考文献 7被引用数 49

ひとこと要約

本稿では、3年間にわたり18種類の一般的な検査結果を用いて、3か月先まで171疾患を予測する多解像度時系列畳み込みニューラルネットワーク（TCN）を提案する。この手法は、補完された検査データと二値観測マスクを活用し、補完のための微分可能な多次元カーネル回帰と、マルチタスク学習のための共有コンponentsを有するエンドツーエンド学習により、生物学的に意味のある時系列疾患シグネチャーを学習することで、標準ベースラインを上回る性能を達成する。

ABSTRACT

Early diagnosis of treatable diseases is essential for improving healthcare, and many diseases' onsets are predictable from annual lab tests and their temporal trends. We introduce a multi-resolution convolutional neural network for early detection of multiple diseases from irregularly measured sparse lab values. Our novel architecture takes as input both an imputed version of the data and a binary observation matrix. For imputing the temporal sparse observations, we develop a flexible, fast to train method for differentiable multivariate kernel regression. Our experiments on data from 298K individuals over 8 years, 18 common lab measurements, and 171 diseases show that the temporal signatures learned via convolution are significantly more predictive than baselines commonly used for early disease diagnosis.

研究の動機と目的

• 縦断的で、疎かつ不規則に測定された検査データを用いて、複数の治療可能で予防可能な疾患の早期診断を可能にする深層学習モデルの開発。
• 医療利用シグナル（例：検査頻度）から生物学的に意味のある時系列パターンを分離し、因果関係の医学的研究を支援するとともに、診断の正確性を向上させること。
• 多次元で非同期な時系列データに対して、微分可能で高速に学習可能な補完手法を設計し、時系列構造を保持するとともにエンドツーエンド学習を可能にすること。
• 実世界の電子的健康記録データを用いて、学習された時系列シグネチャーの予測性能を、ロジスティック回帰や多層パーセプトロンなどの標準ベースラインと比較して評価すること。
• 多解像度TCNが、限られた検査データから疾患発症パターンを効果的に学習できることを示し、スケーラブルでコスト効率の良い早期介入プログラムを可能にすること。

提案手法

• 171疾患の予測に共通する層を有する多解像度TCNアーキテクチャを採用し、マルチタスク学習により複数疾患の同時予測を可能にする。
• 2チャネル入力の構造を採用：1つは微分可能な多次元カーネル回帰を用いた補完された連続的検査値、もう1つは検査が実施されたタイミングを示す二値観測マスク。
• 補完に微分可能な非パラメトリックカーネル回帰を適用し、高次元で非同期な多次元時系列データに対してもスケーラブルかつ高速に処理可能である。
• 重み付き負の対数尤度損失関数を用いてエンドツーエンドで学習し、補完と予測の両コンponentを同時に最適化可能にする。
• 可変長の患者履歴を扱うためにスライディングウィンドウアプローチを採用し、各時系列ポイントで3か月以内の疾患発症を予測する。
• すべての全結合層および畳み込み層においてバッチ正則化とドロップアウトを実装し、学習の安定性と一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 深層畳み込みニューラルネットワークは、疎で不規則に測定された検査データから生物学的に意味のある時系列シグネチャーを学習し、現在の臨床的手法よりも早期に疾患発症を予測できるか？
• RQ2 検査頻度を示す別個の観測マスクを含めることで、補完値のみまたは生データのみを使用する場合と比較して、予測性能にどのような影響を与えるか？
• RQ3 補完に微分可能な多次元カーネル回帰を用いることで、従来の補完手法に比べて、疾患予測に重要な時系列パターンをどれほど効果的に保持できるか？
• RQ4 多解像度畳み込みは、限られた検査データから疾患進行パターンを捉えるために、標準的なフィードフォワードまたは再帰的アーキテクチャに比べてどのように優れているか？
• RQ5 18種類の一般的な検査結果と3年間の履歴のみを用いて、どの疾患がどれほど事前に予測可能か、そして達成可能なAUCはどの程度か？

主な発見

• 提案されたTCNモデルは、標準ベースライン（例：最大値を用いたロジスティック回帰、MLP）よりも顕著に高いAUCスコアを達成し、心不全、糖尿病、前立腺がんを含む主な疾患の早期検出において優れた性能を示した。
• 補完値と観測マスクの2チャネル入力は、生の未補完データで学習したモデルと同等の予測性能を達成した。これにより、補完手法が医療利用パターンから生物学的シグナルを的確に分離できていることが示された。
• 心疾患、腎臓疾患、肝疾患、ホルモン関連疾患など多くの疾患では、18種類の一般的な検査結果のみを用いても、3か月以上も前から高い精度（AUC > 0.85）で発症を予測可能であった。
• 多次元カーネル回帰に基づく微分可能な補完手法は、単変量データではガウス過程と同等の性能を発揮したが、多次元で非同期な時系列データにも高速かつスケーラブルに適用可能であった。
• モデルが多解像度の時系列パターンを学習できることにより、ベースライン健康状態からの微細で長期的な逸脱を捉えることができ、これは早期診断に不可欠な要因であった。
• 結果から、本モデルは現在の臨床実務よりも早期に高リスク個体を同定できるため、大規模でコスト効率の良いリスク評価プログラムの支援が可能であると示唆された。