[論文レビュー] Deep Neural Networks for Survival Analysis Based on a Multi-Task Framework

Stephane Fotso|arXiv (Cornell University)|Jan 17, 2018

Machine Learning in Healthcare参考文献 15被引用数 110

ひとこと要約

論文は Neural Multi-Task Logistic Regression (N-MTLR) を導入する。MTLR の深層学習拡張で、生存分析の予測を改善し、特に非線形依存がある場合に MTLR および CoxPH より優れる。 TensorFlow/Keras で実装。

ABSTRACT

Survival analysis/time-to-event models are extremely useful as they can help companies predict when a customer will buy a product, churn or default on a loan, and therefore help them improve their ROI. In this paper, we introduce a new method to calculate survival functions using the Multi-Task Logistic Regression (MTLR) model as its base and a deep learning architecture as its core. Based on the Concordance index (C-index) and Brier score, this method outperforms the MTLR in all the experiments disclosed in this paper as well as the Cox Proportional Hazard (CoxPH) model when nonlinear dependencies are found.

研究の動機と目的

• 医療分野以外の産業におけるイベント発生までの予測（time-to-event forecast）としての生存分析を動機づける（例: 顧客離脱 churn、購買、デフォルト）。
• CoxPH の制約（比例ハザード、線形リスク、ベースラインが未指定）を、MTLR と深層学習を活用して克服する。
• N-MTLR を提案し、MTLR の区間ベースの生存モデリングを維持しつつ非線形依存性を捉える。

提案手法

• J 個の時間区間にわたる密度関数と生存関数を用いて生存をモデル化する Multi-Task Logistic Regression を基盤とする。
• MTLR の線形コアを深層ニューラルネットワーク（MLP）に置換し、非線形写像 psi(x) を介して J 次元出力へ非線形関係を捉える。
• 非線形 psi(x) を用いて、MTLR の Delta および Y の構成をそのまま使用しつつ、正規化 Z(psi(x)) で密度 f(a_s|x) と生存 S(t|x) を計算する。
• TensorFlow 2 と Keras を用いて Python で実装し、標準的な深層学習手法（初期化、最適化、活性化、バッチ正規化、ドロップアウト）を適用。
• 右検閲下で生存データに適合する学習法で訓練し、C-index および Brier score（および IBS）で評価。
• 非線形モデリングの利点を示すため、2-隠れ層ネットワークとさまざまな活性化関数を用いた例を提供。

実験結果

リサーチクエスチョン

• RQ1 線形、非線形平方、非線形ガウスのリスク関数を持つ合成データで、N-MTLR は線形 MTLR および CoxPH を上回るのか？
• RQ2 実データセット（WHAS、veteran）における非線形依存性は、従来の生存モデルよりも N-MTLR に明確な利点を生むのか？
• RQ3 検閲下で CoxPH、MTLR、N-MTLR の間で C-index および Brier score（IBS）はどう比較されるか？
• RQ4 Python/TensorFlow/Keras による実装は実世界のタスクで MTLR を適用する際に実用的で有利なのか？

主な発見

• 線形リスクデータでは、CoxPH、MTLR、N-MTLR の性能はほぼ同等で（C-index は約0.74、IBS は約0.10–0.12）。
• 非線形平方リスクデータでは、CoxPH および MTLR は劣る一方で、N-MTLR は C-index が高く（0.70）、IBS が低い（0.12）対して、CoxPH（0.53）および MTLR（0.53）と比較して優れる。
• 非線形ガウスリスクデータでは、3モデルの中で N-MTLR が最良の C-index（0.60）と IBS（0.13）を達成。
• 実データの結果は WHAS および veteran データセットでモデル間の性能は概ね同等。N-MTLR はしばしば同等以上に競合（例: WHAS: C-index は 0.80、CoxPH は 0.79）で、IBS は概ね ~0.17 程度。
• 実験を通じて、非線形依存性が存在する場合、N-MTLR は一貫して MTLR を上回り、CoxPH に匹敵または凌ぐ。深層で非線形コアを持つ利点を示している。）