[論文レビュー] Consistency of Random Survival Forests

Hemant Ishwaran, Udaya B. Kogalur|ArXiv.org|Nov 18, 2008

Simulation Techniques and Applications参考文献 10被引用数 8

ひとこと要約

この論文は、一般の分割ルール、ブートストラップ、およびランダム変数選択の下で、右打ち切り生存データに対するランダムサービバルフォレスト（RSF）の一様一貫性を確立する。著者らは、カウント過程理論とブートストラップ理論を活用して一貫性を証明し、すべての予測変数が有限だが非常に大きなラベル空間を持つカテゴリカル（因子）であると仮定することで、RSFの生存分析における性能に対する理論的裏付けを提供する。

ABSTRACT

We prove uniform consistency of Random Survival Forests (RSF), a newly introduced forest ensemble learner for analysis of right-censored survival data. Consistency is proven under general splitting rules, bootstrapping, and random selection of variables--that is, under true implementation of the methodology. A key assumption made is that all variables are factors. Although this assumes that the feature space has finite cardinality, in practice the space can be a extremely large--indeed, current computational procedures do not properly deal with this setting. An indirect consequence of this work is the introduction of new computational methodology for dealing with factors with unlimited number of labels.

研究の動機と目的

• 右打ち切り生存データに対するランダムサービバルフォレスト（RSF）の理論的一貫性を確立すること。
• ランダムフォレストを生存分析に拡張したRSFに、理論的基盤が欠如しているという問題に取り組むこと。
• 一般の分割ルール、ブートストラップ、およびランダム変数選択という現実的な実装条件の下で一貫性を証明すること。
• 高基数のカテゴリカル予測変数の実用的課題に対処するため、有限だが大きな特徴空間における一貫性を証明すること。
• 特に医療および高次元データ設定において、RSFの頑健な性能に対する理論的根拠を提供すること。

提案手法

• 一般の分割ルールの下で生存木の一致性を確立するために、カウント過程理論を用いる。
• 個々の生存木からアンサンブルのフォレスト予測子への一貫性を拡張するために、ブートストラップ理論を適用する。
• フォレスト内の端末ノードからの再サンプリングをモデル化するために、二段階のブートストラップ標本抽出プロセスを採用する。
• 経験過程の収束結果およびマルティンゲール理論に依拠して、生存関数推定子の収束を示す。
• ロとシンガーズ（1985）の補題を用いて、端末ノード内でのブートストラップ推定子と元の推定子の漸近的同等性を確立する。
• 特徴空間における連続性仮定を避けるために、すべての予測変数が有限だが非常に大きなラベル集合を持つカテゴリカル（因子）であると仮定する。

実験結果

リサーチクエスチョン

• RQ1 標準的な実装条件の下で、ランダムサービバルフォレスト（RSF）は右打ち切り生存データに対して一様に一貫性を示すか？
• RQ2 連続的予測変数や制限的な分割ルールを仮定せずに、RSFの一貫性を確立できるか？
• RQ3 アンサンブル生存推定子が真の生存関数に一様に収束するための理論的条件は何か？
• RQ4 カテゴリカル予測変数の有限だが大きな基数が、RSFの一貫性にどのように影響するか？
• RQ5 実務において高基数の因子変数を扱えるように、RSFの理論枠組みを拡張できるか？

主な発見

• 一般の分割ルール、ブートストラップ、およびランダム変数選択の下で、RSFは真の生存関数に対して一様に一貫性を示す。
• すべての予測変数がカテゴリカル（因子）であると仮定すれば、ラベル空間が非常に大きくても一貫性は成立する。
• 生存木推定子は一様に一貫性を示す。これは、フォレストの一貫性を証明するために用いられる重要な中間的結果である。
• 生存木のブートストラップに基づく推論は漸近的に有効であり、ブートストラップ生存推定子は確率的に元の推定子に収束する。
• 端末ノード内でのブートストラップ生存推定子の収束速度は、Op*(n^{-1/2} log^{1/2} n) であり、これは o_p*(1) である。
• 有限のアンサンブルの生存木は、コンパクト区間上で連続的かつ単調に減少する任意の生存関数を一様に近似可能であり、RSFの普遍近似性を支持する。