[論文レビュー] Nearest Neighbor and Kernel Survival Analysis: Nonasymptotic Error Bounds and Strong Consistency Rates

George H. Chen|arXiv (Cornell University)|May 13, 2019

Statistical Methods and Inference参考文献 35被引用数 6

ひとこと要約

本稿は、一般の距離空間における最近傍およびカーネル生存推定器の非漸近的誤差バインディングを初めて確立し、既存の下界まで対数要因を除いて一致する強い一致性レートを証明している。さらに、Nelson-Aalenに基づく累積ハザード推定器に対しても類似のバインディングを導出し、予測精度の向上を図るための適応的カーネル学習としてランダム生存フォレストの使用を提案した。4つのデータセットにおける実験では、固定カーネルよりも優れた性能を示した。

ABSTRACT

We establish the first nonasymptotic error bounds for Kaplan-Meier-based nearest neighbor and kernel survival probability estimators where feature vectors reside in metric spaces. Our bounds imply rates of strong consistency for these nonparametric estimators and, up to a log factor, match an existing lower bound for conditional CDF estimation. Our proof strategy also yields nonasymptotic guarantees for nearest neighbor and kernel variants of the Nelson-Aalen cumulative hazards estimator. We experimentally compare these methods on four datasets. We find that for the kernel survival estimator, a good choice of kernel is one learned using random survival forests.

研究の動機と目的

• 一般の距離空間における最近傍法およびカーネル法を用いた非パラメトリック生存推定器の非漸近的誤差バインディングを確立すること。
• これらの推定器の強い一貫性レートを導出し、それが条件付きCDF推定の既知の下界まで対数要因を除いてほぼ最適であることを示すこと。
• 一般化保証のためのハイパーパramータ選択に役立てるために、累積ハザード関数のNelson-Aalenに基づく推定器への分析を拡張すること。
• 予測精度の向上を図るため、ランダム生存フォレストを用いた適応的カーネル学習法を提案し、その有効性を評価すること。
• 実世界のデータセットを用いて、k-NN、カーネル、およびランダム生存フォレストを含むさまざまな生存推定手法の性能を実験的に比較すること。

提案手法

• 分離可能な距離空間におけるKaplan-Meierに基づく最近傍およびカーネル推定器の条件付き生存関数の非漸近的誤差バインディングフレームワークを提案する。
• 最近傍およびカーネル版のNelson-Aalen累積ハザード推定器に対しても非漸近的バインディングを導く証明戦略を用いる。
• 予測性能の向上を図るため、ランダム生存フォレストを用いてカーネル生存推定器のデータ適応的カーネルを学習する手法を導入する。
• 近傍数やカーネルバンド幅の自動選択のための一般化保証を得るために、検証セットを用いる。
• 推定された累積ハザードに基づいてテスト対象を順位付けし、 concordance index を計算する。また、学習済みイベント時刻の75パーセンタイルを時間枠として設定した、統合Brierスコアの変種を用いる。
• k-NN（4からnまでの2の累乗）、カーネルバンド幅（0.01h_max から h_max までの対数スケール）、ランダム生存フォレストのパラメータ（木の数と最大深さ）のハイパーパramータグリッドを探索する。

実験結果

リサーチクエスチョン

• RQ1 特徴ベクトルが一般の距離空間に存在する場合、最近傍およびカーネル生存推定器に対して非漸近的誤差バインディングをどのように確立できるか？
• RQ2 導出された誤差バインディングは強い一貫性を示すか？また、条件付きCDF推定の既知の下界と比較するとどうなるか？
• RQ3 同じ証明フレームワークを用いて、累積ハザード関数のNelson-Aalenに基づく推定器に対しても非漸近的バインディングを得られるか？
• RQ4 実際の応用において、ランダム生存フォレストを用いてカーネルを学習することは、どの程度有効か？
• RQ5 提案された適応的カーネル法は、k-NN、固定カーネル、およびランダム生存フォレストと比較して、実世界の生存データセットでどのように性能を発揮するか？

主な発見

• 最近傍およびカーネル生存推定器の非漸近的誤差バインディングは、条件付きCDF推定の既知の下界まで対数要因を除いて一致しており、近似的に最適性を示している。
• 提案手法は、距離空間におけるさまざまな分布に対して、最近傍およびカーネル生存推定器の両方で強い一貫性を達成している。
• Nelson-Aalenに基づく推定器のバインディングは、検証セットを用いたハイパーパramータ選択のための一般化保証を可能にしている。
• ランダム生存フォレストを用いて学習した適応的カーネルは、gbsg2、recid、kidneyデータセットにおいて、標準のランダム生存フォレストと同等またはそれ以上の予測精度を達成している。
• 最小のデータセット（pbc）では、ℓ2距離を用いた重み付きk-NNが concordance index で他の手法を上回ったが、3つのより大きなデータセットではランダム生存フォレストが統合Brierスコアで最低を記録した。
• 統合Brierスコアの結果から、ランダム生存フォレストは一貫して最高または2番目の性能を示しており、適応的カーネル法は大規模データセットにおいて競争力のある性能を発揮している。