[論文レビュー] Optimal Change-Point Detection and Localization

Nicolas Verzélen, Magalie Fromont+2 more|arXiv (Cornell University)|Oct 22, 2020

Statistical Methods and Inference被引用数 8

ひとこと要約

この論文は、独立したサブガウスノイズを伴う部分定数平均モデルにおける変化点の最適検出および局在化レートを確立する。新規のエネルギーに基づくしきい値枠組みを導入し、エネルギーが √(2 log log n) を超えると検出が完全にパrametricになることを証明する。さらに、ペナルティ付きマルチスケール最小二乗法と2段階のポストプロセッシング手法の2つの手続きを提案し、O(n log n) の計算量で最適レートを達成する。

ABSTRACT

Given a times series ${\bf Y}$ in $\mathbb{R}^n$, with a piece-wise contant mean and independent components, the twin problems of change-point detection and change-point localization respectively amount to detecting the existence of times where the mean varies and estimating the positions of those change-points. In this work, we tightly characterize optimal rates for both problems and uncover the phase transition phenomenon from a global testing problem to a local estimation problem. Introducing a suitable definition of the energy of a change-point, we first establish in the single change-point setting that the optimal detection threshold is $\sqrt{2\log\log(n)}$. When the energy is just above the detection threshold, then the problem of localizing the change-point becomes purely parametric: it only depends on the difference in means and not on the position of the change-point anymore. Interestingly, for most change-point positions, it is possible to detect and localize them at a much smaller energy level. In the multiple change-point setting, we establish the energy detection threshold and show similarly that the optimal localization error of a specific change-point becomes purely parametric. Along the way, tight optimal rates for Hausdorff and $l_1$ estimation losses of the vector of all change-points positions are also established. Two procedures achieving these optimal rates are introduced. The first one is a least-squares estimator with a new multiscale penalty that favours well spread change-points. The second one is a two-step multiscale post-processing procedure whose computational complexity can be as low as $O(n\log(n))$. Notably, these two procedures accommodate with the presence of possibly many low-energy and therefore undetectable change-points and are still able to detect and localize high-energy change-points even with the presence of those nuisance parameters.

研究の動機と目的

• 部分定数平均モデルにおけるサブガウスノイズを伴う変化点の最適検出および局在化レートを特定すること。
• 変化点エネルギーが臨界しきい値を超えると、グローバル検出からローカル推定へのフェーズ遷移が生じることを特定すること。
• 多数の低エネルギーで検出不能な変化点が存在する状況でも、最適な性能を維持する手続きを開発すること。
• 変化点位置のハウスドルフ誤差および l1 誤差損失に対するタイトなミニマックスレートを確立すること。
• 変化点数の事前知識なしに最適レートを達成できる計算効率の良い手法を設計すること。

提案手法

• 平均の二乗差とセグメント長に基づく変化点エネルギーの定義を導入し、検出しきい値の明確な特徴付けを可能にする。
• 単一変化点設定において最適検出しきい値が √(2 log log n) であることを導出し、このしきい値を超えると局在化が完全にパrametricになることを示す。
• 適切に分離された変化点を好む新しいペナルティを備えたマルチスケール最小二乗推定量を提案し、最適な推定レートを保証する。
• 最適レートを達成するが計算複雑度が O(n log n) まで低くなる2段階のマルチスケールポストプロセッシング手順を開発する。
• 特に変化点トリプレット (t1, t2, t3) のマルチスケール探索空間の複雑度を制御するため、被覆論法とメトリックエントロピーの境界を用いる。
• 集中不等式とサブガウスノイズの尾部境界を用いて、テスト統計量の逸脱を制御し、パrameter空間全体にわたる高確率での一様制御を確保する。

実験結果

リサーチクエスチョン

• RQ1 サブガウスノイズを伴う部分定数平均モデルにおける単一変化点の最適検出しきい値は何か？
• RQ2 変化点の局在化誤差は、そのエネルギーと時系列内での位置にどのように依存するか？
• RQ3 変化点解析におけるグローバル検出からローカル推定へのフェーズ遷移挙動はどのように振る舞うか？
• RQ4 検出と局在化の両方で最適な推定レートを達成しつつ、計算効率の良い手続きは可能か？
• RQ5 ハウスドルフ誤差および l1 誤差損失の最適レートは、標本サイズと変化点数に応じてどのようにスケーリングされるか？

主な発見

• 単一変化点の最適検出しきい値は √(2 log log n) であり、この値未満ではいかなる手法でも信頼性を持って変化点を検出できない。
• 変化点エネルギーがこのしきい値を超えると、局在化は完全にパrametricになる—つまり、平均差にのみ依存し、変化点の位置には依存しなくなる。
• 端末に近い位置を除く大多数の変化点位置では、グローバルしきい値よりもはるかに低いエネルギー水準でも検出および局在化が可能である。
• 複数変化点設定においても、最適検出しきい値が特徴付けられ、このしきい値を超えると個々の変化点の局在化誤差は完全にパrametricになる。
• 特化したペナルティを備えた提案されたマルチスケール最小二乗推定量は、ハウスドルフ誤差および l1 誤差損失の両方で最適レートを達成する。
• 2段階のポストプロセッシング手順は、計算複雑度が O(n log n) まで低くなるため、大規模データセットに対してもスケーラブルである。