[论文解读] Change-point in stochastic design regression and the bootstrap

Emilio Seijo, Bodhisattva Sen|arXiv (Cornell University)|Jan 5, 2011

Statistical Methods and Inference参考文献 26被引用 4

一句话总结

本文提出了一种平滑自助法（smoothed bootstrap）和m-out-of-n自助法，用于在随机设计回归中构造变点的置信区间，其中标准自助法因非标准渐近性质而失效。本文证明了这些方法的一致性，并为具有跳跃间断的非正则模型中的自助法有效性提供了理论条件。

ABSTRACT

In this paper we study the consistency of different bootstrap procedures for constructing confidence intervals (CIs) for the unique jump discontinuity (change-point) in an otherwise smooth regression function in a stochastic design setting. This problem exhibits nonstandard asymptotics and we argue that the standard bootstrap procedures in regression fail to provide valid confidence intervals for the change-point. We propose a version of smoothed bootstrap, illustrate its remarkable finite sample performance in our simulation study, and prove the consistency of the procedure. The $m$ out of $n$ bootstrap procedure is also considered and shown to be consistent. We also provide sufficient conditions for any bootstrap procedure to be consistent in this scenario.

研究动机与目标

• 解决标准自助法（如配对自助法和残差自助法）在非标准渐近性质下估计变点时的不一致性问题。
• 开发并验证一种平滑自助法，以确保置信区间构造的渐近一致性。
• 建立在具有间断回归函数的非正则模型中自助法一致性的通用充分条件。
• 扩展理论工具以分析具有混合连续性质的随机过程的弱收敛性，特别是在最大化点映射设定下。

提出的方法

• 提出一种平滑自助法，从协变量Z的平滑核密度估计和残差的中心化经验分布中独立抽样。
• 采用m-out-of-n自助法，从原始数据中无放回抽样，其中m < n，以稳定变点估计量的极限分布。
• 应用广义的argmax连续映射定理，适用于在两个变量上连续、在第三个变量上右连左极（càdlàg）的随机过程，从而实现弱收敛分析。
• 采用三角阵列渐近方法，将Kosorok（2008b）的收敛结果推广至具有随机设计的非i.i.d.设定。
• 推导出索引函数具有间断性的经验过程的弱收敛性，依赖于一致可积性和熵条件。
• 通过经验过程的弱收敛性和对变点邻域内误差项的统一控制，验证了自助法的一致性。

实验结果

研究问题

• RQ1 为何标准自助法在随机设计回归中无法为变点提供有效的置信区间？
• RQ2 在由于间断性和非i.i.d.设计导致的非标准渐近性质下，平滑自助法能否实现一致性？
• RQ3 何种通用条件可确保在具有跳跃间断的非正则模型中任何自助法的一致性？
• RQ4 如何将argmax连续映射定理扩展以处理在三个变量上具有混合连续性质的过程？
• RQ5 所提出的自助方法在多大程度上可推广至具有变点的非参数或半参数模型？

主要发现

• 标准非参数自助法（配对自助法）和残差自助法在变点估计中不一致，原因是自助过程缺乏弱极限。
• 所提出的平滑自助法实现了渐近一致性，并在模拟研究中表现出更优的有限样本性能。
• 在设计密度和误差分布满足温和正则性条件时，m = o(n)的m-out-of-n自助法被证明是一致的。
• 建立了适用于在两个变量上连续、在第三个变量上càdlàg的过程的广义argmax连续映射定理，从而实现了对非正则模型中自助估计量的分析。
• 推导出自助法一致性的充分条件，包括函数类上经验过程的一致可积性和熵控制。
• 理论结果被扩展至具有变点的非参数回归模型，且该方法可直接应用于生存分析和自适应抽样中的两阶段程序。