[論文レビュー] Change point inference in high-dimensional regression models under temporal dependence

Haotian Xu, Daren Wang+2 more|arXiv (Cornell University)|Jul 25, 2022

Statistical Methods and Inference被引用数 8

ひとこと要約

本稿は、時系列的依存性下での高次元線形回帰モデルにおける変動点推定の漸近的理論を展開し、ジャンプサイズが消える場合と一定のままの場合の両方において、変動点推定の極限分布を確立する。関数的依存性下で一貫性を持つブロック型長期分散推定量を導入し、新たなベルンシュタイン不等式を導出し、依存的な高次元設定における有効な信頼区間と推論を可能にする。

ABSTRACT

This paper concerns about the limiting distributions of change point estimators, in a high-dimensional linear regression time series context, where a regression object $(y_t, X_t) \in \mathbb{R} imes \mathbb{R}^p$ is observed at every time point $t \in \{1, \ldots, n\}$. At unknown time points, called change points, the regression coefficients change, with the jump sizes measured in $\ell_2$-norm. We provide limiting distributions of the change point estimators in the regimes where the minimal jump size vanishes and where it remains a constant. We allow for both the covariate and noise sequences to be temporally dependent, in the functional dependence framework, which is the first time seen in the change point inference literature. We show that a block-type long-run variance estimator is consistent under the functional dependence, which facilitates the practical implementation of our derived limiting distributions. We also present a few important byproducts of our analysis, which are of their own interest. These include a novel variant of the dynamic programming algorithm to boost the computational efficiency, consistent change point localisation rates under temporal dependence and a new Bernstein inequality for data possessing functional dependence. Extensive numerical results are provided to support our theoretical results. The proposed methods are implemented in the R package exttt{changepoints} \citep{changepoints_R}.

研究の動機と目的

• 時系列的依存性下での高次元線形回帰における変動点推定の極限分布を確立すること。
• 関数的依存性下で一貫性を持つブロック型長期分散推定量を構築し、変動点解析における新しいフレームワークを提供すること。
• 依存的な高次元データにおける変動点の信頼区間の構築を可能にすること。
• 弱い依存性を示す予測変数と誤差を伴う設定における推論の理論的裏付けを提供すること。
• 変動点局所化のための新規な動的計画法の変種を用いて計算効率を拡張すること。

提案手法

• 予測変数と誤差の時系列的依存性を関数的依存性フレームワークでモデル化し、線形および非線形プロセスを許容する。
• ブロック型長期分散推定量を導出し、関数的依存性下での一貫性を証明する。
• 関数的依存性に特化した新しいベルンシュタイン不等式を導入し、依存的な高次元データにおける集中限界を可能にする。
• 変動点検出における計算効率を向上させるために、修正された動的計画法アルゴリズムを提案する。
• ジャンプサイズが消える場合と一定のままの場合の2つの状況において、変動点推定の極限分布を確立する。
• 得られた漸近的理論を応用し、一貫性のある長期分散推定量を用いて変動点の信頼区間を構築する。

実験結果

リサーチクエスチョン

• RQ1 時系列的依存性下で、最小ジャンプサイズが消えるか一定のままの高次元回帰における変動点推定の極限分布は何か？
• RQ2 高次元時系列において関数的依存性下で長期分散推定量を一貫的に推定する方法は何か？
• RQ3 時系列的依存性下での高次元モデルにおける一貫性のある変動点局所化の速度は何か？
• RQ4 高次元設定における集中解析を支援するため、関数的依存性に特化した新たなベルンシュタイン不等式を導出できるか？
• RQ5 時系列的依存性下での高次元変動点検出における計算効率をどのように向上できるか？

主な発見

• 変動点推定の極限分布が、ジャンプサイズが消える場合と一定のままの場合の両方において導出され、漸近的に有効な推論が可能になる。
• 関数的依存性フレームワーク下でブロック型長期分散推定量の一貫性が証明され、実用的推論を支援する。
• 関数的依存性に特化した新しいベルンシュタイン不等式が確立され、依存的な高次元過程における集中限界を提供する。
• 提案された動的計画法の変種により、高次元設定における変動点局所化の計算効率が向上する。
• 時系列的依存性下で一貫性のある変動点局所化の速度が導出され、推定の正確さが定量的に評価される。
• 理論的結果は広範な数値実験によって裏付けられ、有限標本における提案手法の有効性が検証される。