[論文レビュー] Deep Learning for Quantile Regression: DeepQuantreg.

Yichen Jia, Jong‐Hyeon Jeong|arXiv (Cornell University)|Jul 14, 2020

Statistical Methods and Inference参考文献 21被引用数 6

ひとこと要約

この論文は、右側打ち切り生存データにおける分位数回帰のための深層学習アプローチであるDeepQuantregを紹介する。この手法は、チェック関数に推定された打ち切り分布に基づく逆確率重み付けを組み込み、従来の分位数回帰よりも優れた予測精度を示す。特に非線形パターンを捉える能力が優れており、低次元設定でも、シミュレーションおよび乳がん遺伝子サインチャーデータセットを用いた実験でその有効性が確認された。

ABSTRACT

The computational prediction algorithm of neural network, or deep learning, has drawn much attention recently in statistics as well as in image recognition and natural language processing. Particularly in statistical application for censored survival data, the loss function used for optimization has been mainly based on the partial likelihood from Cox's model and its variations to utilize existing neural network library such as Keras, which was built upon the open source library of TensorFlow. This paper presents a novel application of the neural network to the quantile regression for survival data with right censoring, which is adjusted by the inverse of the estimated censoring distribution in the check function. The main purpose of this work is to show that the deep learning method could be flexible enough to predict nonlinear patterns more accurately compared to the traditional method even in low-dimensional data, emphasizing on practicality of the method for censored survival data. Simulation studies were performed to generate nonlinear censored survival data and compare the deep learning method with the traditional quantile regression method in terms of prediction accuracy. The proposed method is illustrated with a publicly available breast cancer data set with gene signatures. The source code is freely available at this https URL.

研究の動機と目的

• 右側打ち切りデータを伴う生存分析における分位数回帰のための柔軟な深層学習フレームワークの開発。
• 従来の分位数回帰が低次元生存データにおける非線形関係をモデル化するのには限界があるという問題の解決。
• 推定された打ち切り分布に基づく逆確率重み付けを、深層学習の最適化プロセスに統合すること。
• 生存データ解析における深層学習の実用性と予測優位性を、古典的手法と比較して示すこと。

提案手法

• 推定された打ち切り分布に基づく逆確率重み付けをチェック関数に適用することで、ニューラルネットワークを分位数回帰に適応化する。
• TensorFlow上に構築されたKerasライブラリを用いて、打ち切りデータ用のカスタム損失関数を備えた深層学習モデルを実装する。
• 打ち切り分布の推定生存関数の逆数で調整されたチェック関数を用い、右側打ち切りに対処する。
• 条件付き分位数を推定するために、変更された損失関数に基づく確率的勾配降下法でモデルを最適化する。
• 複雑な非線形関係を捉えるために、複数の隠れ層を備えた順方向型ニューラルネットワークアーキテクチャを採用する。
• シミュレーション研究および公的乳がんデータセット（遺伝子サインチャーを有する）を用いた実世界の応用により、手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、打ち切りデータにおける非線形パターンを有する生存予測において、従来の分位数回帰を上回ることができるか？
• RQ2 打ち切り分布に基づく逆確率重み付けを統合することで、分位数回帰における深層学習の性能はどのように変化するか？
• RQ3 提案手法は、低次元生存データ設定においてどれほど高い精度を維持できるか？
• RQ4 さまざまな打ち切りレベルにおいて、深層学習アプローチは古典的手法と比較して、予測誤差と頑健性の点でどのように差をつけるか？

主な発見

• シミュレーションによる非線形打ち切り生存データにおいて、提案手法DeepQuantregは従来の分位数回帰よりも顕著に低い予測誤差を達成した。
• DeepQuantregは、古典的手法が正確にモデル化できなかった生存アウトカムにおける複雑な非線形関係を捉える優れた能力を示した。
• 逆確率重み付けの統合により、右側打ち切りの度合いが変化する状況下でも、深層学習モデルの頑健性が向上した。
• 乳がん遺伝子サインチャーデータセットの解析において、DeepQuantregは従来のアプローチよりもより正確な分位数予測を提供した。
• 低次元設定でも強力な性能を維持したため、実世界の生存解析における実用的価値が顕著に示された。
• DeepQuantregのソースコードは公開されており、再現性の確保と生物医学研究分野における広範な採用を可能にしている。