[論文レビュー] Structural Break Detection in High-Dimensional Non-Stationary VAR models

Abolfazl Safikhani, Ali Shojaie|arXiv (Cornell University)|Aug 9, 2017

Fault Detection and Control Systems参考文献 28被引用数 3

ひとこと要約

本稿では、区分的定常性の下で、高次元非定常ベクトル自己回帰（VAR）モデルにおける構造的変化の検出のため、全変動LASSOを用いた2段階の罰則付き最小二乗法を提案する。この手法は、変数選択とバックワード選択を組み合わせることで、LASSO罰則による過剰推定を是正し、サンプルサイズとともに増加する変化点数の増加に対しても、変化点の数および位置を一貫して推定できる。

ABSTRACT

Assuming stationarity is unrealistic in many time series applications. A more realistic alternative is to allow for piecewise stationarity, where the model is allowed to change at given time points. In this article, the problem of detecting the change points in a high-dimensional piecewise vector autoregressive model (VAR) is considered. Reformulated the problem as a high-dimensional variable selection, a penalized least square estimation using total variation LASSO penalty is proposed for estimation of model parameters. It is shown that the developed method over-estimates the number of change points. A backward selection criterion is thus proposed in conjunction with the penalized least square estimator to tackle this issue. We prove that the proposed two-stage procedure consistently detects the number of change points and their locations. A block coordinate descent algorithm is developed for efficient computation of model parameters. The performance of the method is illustrated using several simulation scenarios.

研究の動機と目的

• 現実の応用例（例：EEGデータや金融時系列）においてしばしば現実的でない定常性を仮定する既存の高次元時系列手法の制限を是し、
• 依存構造が未知の時点で変化する高次元の区分的定常VARモデルにおける複数の構造的変化点の検出が可能な手法を開発すること。
• サンプルサイズとともに増加する変化点数に対しても、変化点の数および位置を一貫して推定できること。
• LASSOが変化点数を過剰に推定する傾向にあるのを是し、バックワード選択基準を導入すること。

提案手法

• 遷移行列を時間的に区分的定数としてモデル化することで、構造的変化検出問題を高次元変数選択問題に再定式化する。
• 全変動LASSO罰則を用いた罰則付き最小二乗推定量を適用し、モデルパラメータの推定と変化点の検出を実施する。
• LASSO罰則に内在する変化点の過剰推定を是すために、バックワード選択基準を用い、選択の一貫性を向上させる。
• 高次元設定における罰則付き推定量の効率的計算のため、ブロック座標降下法を提案する。
• 推定量の理論的一貫性を保証するため、設計行列および誤差構造に正則性条件を課す。
• モデルの適合度と複雑さのバランスを取るために、情報量基準（IC）を用いて最適な変化点数を選択する。

実験結果

リサーチクエスチョン

• RQ1 区分的定常性の下で、複数の構造的変化点を有する高次元VARモデルは、一貫して推定可能か？
• RQ2 全変動LASSO罰則の使用は、高次元非定常時系列における変化点の数および位置の一致した検出を可能にするか？
• RQ3 高次元設定かつ複数の変化点を伴う状況において、LASSOによる変化点の過剰推定はどのように是正可能か？
• RQ4 提案された2段階手順（LASSO + バックワード選択）は、構造的変化点の数および位置を一貫して推定可能か？
• RQ5 サンプルサイズが増加する際、この手法が一貫した変化点検出を達成する理論的条件は何か？

主な発見

• 提案された2段階手法は、サンプルサイズが増加するに従い、変化点数の推定が確率1に近づく一貫性を示す。
• 変化点位置の推定についても一貫性が達成され、推定値と真の変化点との最大偏差が $ n\gamma_n $ で有界である。
• バックワード選択基準は、LASSO罰則による変化点の過剰推定を効果的に是正し、選択の一貫性を確保した。
• 理論的分析により、バックワード選択ステップで用いられる情報量基準が、正則性条件下で真の変化点数を正しく同定することが示された。
• シミュレーション結果は、次元および変化点数の増加に対しても、高次元VARモデルにおける複数の変化点を正確に検出できることを確認した。
• ブロック座標降下法により、罰則付き推定量の計算が効率的に行えるようになり、高次元時系列へのスケーラビリティが実現された。