[論文レビュー] Localizing Changes in High-Dimensional Vector Autoregressive Processes

Daren Wang, Yi Yu+2 more|arXiv (Cornell University)|Sep 12, 2019

Statistical Methods and Inference参考文献 62被引用数 20

ひとこと要約

本稿では、係数行列が区分定数である高次元ベクトル自己回帰（VAR）過程における変化点の局所化のための新しい動的計画法を提案する。この手法は、次元数、スパarsity、時系列間隔、係数の差異の変動に対しても一貫した変化点検出を達成し、修正アルゴリズムにより誤差率が著しく改善され、シミュレーションおよび実データにおいて既存手法を上回る性能を示す。

ABSTRACT

Autoregressive models capture stochastic processes in which past realizations determine the generative distribution of new data; they arise naturally in a variety of industrial, biomedical, and financial settings. A key challenge when working with such data is to determine when the underlying generative model has changed, as this can offer insights into distinct operating regimes of the underlying system. This paper describes a novel dynamic programming approach to localizing changes in high-dimensional autoregressive processes and associated error rates that improve upon the prior state of the art. When the model parameters are piecewise constant over time and the corresponding process is piecewise stable, the proposed dynamic programming algorithm consistently localizes change points even as the dimensionality, the sparsity of the coefficient matrices, the temporal spacing between two consecutive change points, and the magnitude of the difference of two consecutive coefficient matrices are allowed to vary with the sample size. Furthermore, the accuracy of initial, coarse change point localization estimates can be boosted via a computationally-efficient refinement algorithm that provably improves the localization error rate. Finally, a comprehensive simulation experiments and a real data analysis are provided to show the numerical superiority of our proposed methods.

研究の動機と目的

• 時系列に応じてモデルパラメータが変化する高次元ベクトル自己回帰（VAR）過程における変化点検出の課題に対処すること。
• 次元数、スパarsity、時系列間隔が標本サイズとともに変化しても、一貫した変化点の局所化を実現する手法の開発。
• 計算効率の良い修正アルゴリズムを用いて、初期の粗い変化点推定の精度を向上させ、誤差率の改善を明示的に示すこと。
• シミュレーションおよび実データにおいて、INSPECT や SBS-MVTS といった既存手法に比べて数値的に優れた性能を示すこと。

提案手法

• 区分定数係数行列を有する高次元VAR過程における変化点検出のための動的計画法を提案する。
• モデルの適合度とスパarsityのバランスをとるために、罰則付き尤度の定式化を用いる。
• 初期の粗い変化点推定の精度を向上させるための修正アルゴリズムを導入し、局所化誤差率を低減する。
• 一般の高次元漸近的設定下での変化点局所化の一貫性を理論的に確立する。特に、スパarsityと時系列間隔の変動を含む。
• 推定誤差を高次元設定で制御するため、制限固有値条件と指数型尾部バウンドを用いる。
• 合成データおよび実世界の時系列に本手法を適用し、シミュレーション研究および実証的分析により性能を検証する。

実験結果

リサーチクエスチョン

• RQ1 係数行列が区分定数である高次元VAR過程において、動的計画法が一貫した変化点の局所化を達成できるか？
• RQ2 本手法は、VARモデルにおける構造的変化検出において、INSPECT や SBS-MVTS といった既存手法と比較してどのように性能を発揮するか？
• RQ3 本手法の理論的誤差率は何か？ また、修正アルゴリズムにより改善可能か？
• RQ4 次元数、スパarsity、変化点間の時系列間隔が変化する場合、本手法の一致性と精度にどのような影響を与えるか？
• RQ5 平均値や分散に基づく変化点検出手法では検出できない変化を、本手法は検出可能か？

主な発見

• 提案された動的計画法は、次元数、スパarsity、時系列間隔が標本サイズとともに変化する高次元VARモデルにおいても、一貫した変化点の局所化を達成する。
• 修正アルゴリズムにより、局所化誤差率が明示的に改善され、初期の粗い推定値を上回る推定精度が得られる。
• シミュレーション研究において、例1では t=80 および t=160 に存在する変化点を正しく同定したが、INSPECT や SBS-MVTS はそれらを検出できなかった。
• 変化が原始データや標本共分散行列に顕著に現れないVAR過程において、本手法は競合手法を上回る性能を示した。
• 理論的分析により、本手法は非i.i.d.ノイズや時変係数構造を含む一般の高次元漸近的設定下でも一貫性を維持することが示された。
• スパarsity誘導正則化と動的計画法最適化を組み合わせた罰則付き尤度定式化により、誤差率の向上が達成された。