[論文レビュー] Change-point in stochastic design regression and the bootstrap

Emilio Seijo, Bodhisattva Sen|arXiv (Cornell University)|Jan 5, 2011

Statistical Methods and Inference参考文献 26被引用数 4

ひとこと要約

本稿では、非標準的漸近的性質を示す確率的設計回帰における変動点の信頼区間を構築するためのスムージングブートストラップおよびm-out-of-nブートストラップ手順を提案する。標準的なブートストラップ手法は、非標準的漸近的性質のため失敗するが、本手法は一貫性を示す。非正規モデルにおけるジャンプ不連続性を伴う設定において、ブートストラップの有効性を保証する理論的条件を提示する。

ABSTRACT

In this paper we study the consistency of different bootstrap procedures for constructing confidence intervals (CIs) for the unique jump discontinuity (change-point) in an otherwise smooth regression function in a stochastic design setting. This problem exhibits nonstandard asymptotics and we argue that the standard bootstrap procedures in regression fail to provide valid confidence intervals for the change-point. We propose a version of smoothed bootstrap, illustrate its remarkable finite sample performance in our simulation study, and prove the consistency of the procedure. The $m$ out of $n$ bootstrap procedure is also considered and shown to be consistent. We also provide sufficient conditions for any bootstrap procedure to be consistent in this scenario.

研究の動機と目的

• 非標準的漸近的性質下での変動点推定において、標準的手法（例：ペアブートストラップおよび残差ブートストラップ）が一貫性を示さない問題を解決すること。
• 信頼区間の構築に向け、漸近的一貫性を保証するスムージングブートストラップ手順の開発と検証。
• ジャンプ不連続性を伴う非正規モデルにおけるブートストラップの一貫性を保証する一般的な十分条件の確立。
• 特にargmax写像設定において、混合連続性を持つ確率過程の弱収束を分析するための理論的ツールの拡張。

提案手法

• 共変数Zの滑らかなカーネル密度推定値および残差の中心化された経験分布から、独立にサンプリングするスムージングブートストラップを提案。
• m < nとなるように元のデータから復元抽出でサンプリングするm-out-of-nブートストラップを用い、変動点推定量の極限分布の安定化を図る。
• 2つの引数に関して連続で、3番目の引数に関して右連続で左極限を持つ（càdlàg）確率過程に対して一般化されたargmax連続写像定理を適用し、弱収束解析を可能にする。
• 三角行列の漸近的解析を用いて、Kosorok (2008b) の収束結果をi.i.d.でない設定、特に確率的設計に一般化する。
• 不連続関数をインデックスとする経験過程の弱収束を、一様可積分性およびエントロピー条件に依拠して導出する。
• 変動点近傍における誤差項の均一な制御と経験過程の弱収束を用いて、ブートストラップ手順の一貫性を検証する。

実験結果

リサーチクエスチョン

• RQ1 なぜ標準的ブートストラップ手法は、確率的設計回帰における変動点の信頼区間を有効に構築できないのか？
• RQ2 不連続性および非i.i.d.設計の影響を受ける非標準的漸近的性質下でも、スムージングブートストラップ手順が一貫性を達成できるか？
• RQ3 ジャンプ不連続性を伴う非正規モデルにおける任意のブートストラップ手順の一貫性を保証する一般的な条件は何か？
• RQ4 3変数の混合連続性を持つ確率過程を扱うために、argmax連続写像定理をどのように拡張できるか？
• RQ5 提案されたブートストラップ手法は、非パラメトリックまたはセミパラメトリックモデルにおける変動点を伴う設定にどの程度一般化可能か？

主な発見

• 非パラメトリックブートストラップ（ペアブートストラップ）および残差ブートストラップは、ブートストラップ過程における弱極限の欠如のため、変動点推定において一貫性を示さない。
• 提案されたスムージングブートストラップ手順は漸近的一貫性を達成し、シミュレーション研究において優れた有限標本性能を示す。
• m = o(n)となるm-out-of-nブートストラップは、設計密度および誤差分布に関するやや弱い正則性条件の下で一貫性を示すことが示された。
• 2つの引数に関して連続で、3番目の引数に関してcàdlàgである確率過程に対して、一般化されたargmax連続写像定理が確立され、非正規モデルにおけるブートストラップ推定量の解析が可能になった。
• 一様可積分性および関数族のエントロピーを制御したクラス上での経験過程の収束を含む、ブートストラップの一貫性を保証する十分条件が導出された。
• 理論的結果は非パラメトリック回帰モデルにおける変動点を伴う設定に拡張され、生存分析や適応的サンプリングにおける2段階手順への直接適用が可能である。