[論文レビュー] Kernel induced random survival forests

Fang Yang, Jiheng Wang+1 more|arXiv (Cornell University)|Aug 24, 2010

Statistical Methods and Inference参考文献 16被引用数 4

ひとこと要約

本論文は、生存データの予測精度を向上させるためにカーネル関数を統合した、ランダム生存フォレストの新規拡張であるカーネル誘導ランダム生存フォレスト（KIRSF）を提案する。カーネル手法を用いて共変量を高次元の特徴空間にマッピングすることにより、非線形パターンの検出を向上させつつ、RSFのアンサンブル学習フレームワークを維持する。実世界の骨髄移植データにおいて、標準的なRSFと比較して予測誤差が最大30%低減された。

ABSTRACT

Kernel Induced Random Survival Forests (KIRSF) is a statistical learning algorithm which aims to improve prediction accuracy for survival data. As in Random Survival Forests (RSF), Cumulative Hazard Function is predicted for each individual in the test set. Prediction error is estimated using Harrell's concordance index (C index) [Harrell et al. (1982)]. The C-index can be interpreted as a misclassification probability and does not depend on a single fixed time for evaluation. The C-index also specifically accounts for censoring. By utilizing kernel functions, KIRSF achieves better results than RSF in many situations. In this report, we show how to incorporate kernel functions into RSF. We test the performance of KIRSF and compare our method to RSF. We find that the KIRSF's performance is better than RSF in many occasions.

研究の動機と目的

• 複雑で非線形なパターンを示す生存データに対するランダム生存フォレストの予測精度を向上させること。
• RSFフレームワークのコアなアンサンブルメカニズムを変更せずにカーネル関数を統合すること。
• シミュレートされたデータおよび実世界の生存データセットを用いて、KIRSFの性能を標準RSFと比較すること。
• カーネル化が予測誤差および標準誤差を低減することを示すこと。

提案手法

• KIRSFは、選択されたカーネル関数（例：ガウスカーネル、多項式カーネル）を用いて、元の共変量データをカーネル埋め込み特徴に置き換える。
• 得られたカーネル化されたデータを、標準的なランダム生存フォレストアルゴリズムの入力として使用し、ブートストラップサンプリングおよびランダム特徴量サブセット選択を維持する。
• フォレスト内の各生存木は、カーネル化された特徴空間を用いて成長させられ、非線形多様体上での生存群の分離を向上させる。
• 累積ハザード関数の予測は、フォレスト内のすべての木の平均化によって行われ、性能評価にはハラレルのCインデックスが用いられる。
• この方法は元のRSF構造を維持しているが、カーネル誘導特徴変換を活用して複雑な相互作用および非線形効果を捉えることができる。
• 特に高次元データの場合に計算効率を向上させるため、カーネル化の前に行う変数選択が推奨される。

実験結果

リサーチクエスチョン

• RQ1 カーネル関数は、生存解析におけるランダム生存フォレストの予測性能を向上させることができるか？
• RQ2 KIRSFは、シミュレートされたデータおよび実生存データにおいて、予測誤差およびCインデックスの観点で標準RSFと比較してどのように異なるか？
• RQ3 非線形パターンが存在する場合に、カーネル化は予測誤差および標準誤差を低減するか？
• RQ4 カーネルの選択および変数選択は、KIRSFの性能にどのような影響を与えるか？
• RQ5 どのようなデータタイプや構造において、KIRSFはRSFに対して最大の改善を示すか？

主な発見

• シミュレートされたringnormデータセットにおいて、KIRSFはRSFと比較して予測誤差を20%低減した。
• 実世界の骨髄移植（BMT）データセットにおいて、KIRSFはRSFと比較して予測誤差を30%以上低減した。
• KIRSFにおける標本標準誤差は、常にRSFよりも小さく、予測の安定性が向上していることを示している。
• この手法は、線形分割に依存する標準RSFが見逃しがちな生存データ内の非線形関係を効果的に捉えている。
• 非線形パターンがデータに存在する場合、カーネル化はモデル性能を顕著に向上させた。
• カーネル適用の前に行う変数選択は、予測精度を損なうことなく計算効率を向上させた。