[论文解读] Consistency of Random Survival Forests

Hemant Ishwaran, Udaya B. Kogalur|ArXiv.org|Nov 18, 2008

Simulation Techniques and Applications参考文献 10被引用 8

一句话总结

本文在一般分割规则、自助采样和随机变量选择的条件下，针对右删失生存数据，建立了随机生存森林（RSF）的统一一致性。作者通过点过程理论和自助采样理论证明了一致性，假设所有预测变量均为类别型（因子），且标签空间有限但可能极大，从而为RSF在生存分析中的表现提供了理论依据。

ABSTRACT

We prove uniform consistency of Random Survival Forests (RSF), a newly introduced forest ensemble learner for analysis of right-censored survival data. Consistency is proven under general splitting rules, bootstrapping, and random selection of variables--that is, under true implementation of the methodology. A key assumption made is that all variables are factors. Although this assumes that the feature space has finite cardinality, in practice the space can be a extremely large--indeed, current computational procedures do not properly deal with this setting. An indirect consequence of this work is the introduction of new computational methodology for dealing with factors with unlimited number of labels.

研究动机与目标

• 建立右删失生存数据下随机生存森林（RSF）的理论一致性。
• 解决RSF缺乏理论基础的问题，因为RSF是将随机森林扩展至生存分析的模型。
• 在现实实现条件下证明一致性：一般分割规则、自助采样和随机变量选择。
• 通过在有限但较大的特征空间中证明一致性，应对高基数类别预测变量的实际挑战。
• 为RSF在生存建模中表现出的稳健性能提供理论基础，尤其在医学和高维数据场景中。

提出的方法

• 使用点过程理论，证明在一般分割规则下，生存树的统一一致性。
• 应用自助采样理论，将单个生存树的一致性扩展至集成森林预测器。
• 采用两阶段自助采样过程，以模拟森林中终端节点的重采样过程。
• 依赖经验过程收敛结果和鞅理论，证明生存函数估计器的收敛性。
• 使用Lo和Singh（1985）引理，证明终端节点内自助采样估计器与原始估计器的渐近等价性。
• 假设所有预测变量均为类别型（因子），且具有有限但可能极大的标签集，以避免对特征空间的连续性假设。

实验结果

研究问题

• RQ1 在标准实现条件下，随机生存森林（RSF）对右删失生存数据是否具有统一一致性？
• RQ2 是否可以在不假设预测变量为连续或采用限制性分割规则的条件下，建立RSF的一致性？
• RQ3 哪些理论条件可确保集成生存估计器一致收敛至真实生存函数？
• RQ4 类别预测变量的有限但大基数如何影响RSF的一致性？
• RQ5 能否将RSF的理论框架扩展以实际处理高基数因子变量？

主要发现

• 在一般分割规则、自助采样和随机变量选择的条件下，RSF对真实生存函数具有统一一致性。
• 该一致性结果在所有预测变量均为类别型（因子）的假设下成立，即使标签空间极大亦成立。
• 生存树估计器具有统一一致性，这是证明森林一致性的关键中间结果。
• 基于自助采样的生存树推断在渐近意义上是有效的，自助生存估计器以概率收敛至原始估计器。
• 终端节点内自助生存估计器的收敛速度为 Op*(n^{-1/2} log^{1/2} n)，即 o_p*(1)。
• 有限数量的生存树可统一逼近紧区间上任意连续、单调递减的生存函数，支持RSF的通用逼近性质。