[論文レビュー] Seeded Binary Segmentation: A general methodology for fast and optimal change point detection

Solt Kovács, Housen Li+2 more|arXiv (Cornell University)|Feb 16, 2020

Statistical Methods and Inference被引用数 6

ひとこと要約

本稿では、事前に近線形に計算可能な、決定的で高速かつ最適な変動点検出手法であるシーデッドバイナリセグメンテーションを提案する。この手法は、背景区間（シーデッド区間）を構築することで、変動点の数に依存しない近線形の計算複雑性を達成する。統計的最適性を維持しながら、野生バイナリセグメンテーションのようなランダム区間法よりも、速度とロバスト性に優れている。

ABSTRACT

In recent years, there has been an increasing demand on efficient algorithms for large scale change point detection problems. To this end, we propose seeded binary segmentation, an approach relying on a deterministic construction of background intervals, called seeded intervals, in which single change points are searched. The final selection of change points based on the candidates from seeded intervals can be done in various ways, adapted to the problem at hand. Thus, seeded binary segmentation is easy to adapt to a wide range of change point detection problems, let that be univariate, multivariate or even high-dimensional. We consider the univariate Gaussian change in mean setup in detail. For this specific case we show that seeded binary segmentation leads to a near-linear time approach (i.e. linear up to a logarithmic factor) independent of the underlying number of change points. Furthermore, using appropriate selection methods, the methodology is shown to be asymptotically minimax optimal. While computationally more efficient, the finite sample estimation performance remains competitive compared to state of the art procedures. Moreover, we illustrate the methodology for high-dimensional settings with an inverse covariance change point detection problem where our proposal leads to massive computational gains while still exhibiting good statistical performance.

研究の動機と目的

• 変動点の数に伴いスケーリングが著しく悪化する、野生バイナリセグメンテーションのようなランダム区間ベース手法の計算非効率性を解消すること。
• 統計的パワーを維持しながら計算コストを低減する、野生バイナリセグメンテーションの代替となる決定的手法を開発すること。
• 一変量ガウス分布における平均値の変動点問題において、変動点の数に依存しない近線形時間計算量（O(T log T)）を達成すること。
• 一変量ガウス設定において漸近的ミニマックス最適性を保証するとともに、高次元問題へのスケーラビリティを実現すること。
• グラフィカルラッソのような高コストな推定器を伴う高次元設定において、計算上の利点を示すこと。

提案手法

• 減衰パラメータ a に基づく、事前に計算済みの体系的で決定的なスキームを用いて、決定的背景区間（シーデッド区間）の集合を構築する。
• グリーディーな手続きを用いて、各シーデッド区間内で最良の単一の変動点を探索し、候補となる変動点の集合を生成する。
• 情報量基準（例：AICやBIC）などのモデル選択基準を用いて、候補集合から最終的な変動点を選択する。野生バイナリセグメンテーションと同様の手法である。
• すべてのシーデッド区間の総長が O(T log T) であることを保証し、変動点の数 M が大きい場合に野生バイナリセグメンテーションの O(TM) と比較して計算コストを著しく低減する。
• シーデッド区間の構造を活用して、例えばグラフィカルラッソ推定器を用いた高次元設定でも、効率的な更新を可能にする。
• 各シーデッド区間を最も顕著な変動点で再帰的に分割する戦略を採用し、再計算を完全に回避するように区間を更新する。

実験結果

リサーチクエスチョン

• RQ1 ランダム区間法（例：野生バイナリセグメンテーション）と同等の統計的性能を達成しながら、その計算非効率性を回避できる、決定的背景区間の構築が可能か？
• RQ2 シーデッドバイナリセグメンテーションは、一変量ガウス分布における平均値の変動点問題において、漸近的ミニマックス最適性を維持するか？
• RQ3 高次元問題、例えば高次元ガウスグラフィカルモデルにおける変動点検出に、この手法は効率的にスケーリング可能か？
• RQ4 野生バイナリセグメンテーションにおけるランダム区間数 M と比較して、減衰パラメータ a の選択が、シーデッドバイナリセグメンテーションの性能に与える影響は何か？
• RQ5 高次元設定において、グラフィカルラッソのような高コストな推定器を適合させる場合、シーデッド区間を用いることで得られる計算上の利点は何か？

主な発見

• 一変量ガウス分布における平均値の変動点問題において、シーデッドバイナリセグメンテーションは変動点の数に依存しない O(T log T) の総計算コストを達成し、計算量が近線形であることを裏付ける。
• この手法は、一変量ガウス分布における平均値の変動点問題において、推定誤差の理論的下界に一致する漸近的ミニマックス最適性を有する。
• シミュレーションでは、シーデッドバイナリセグメンテーションのデフォルト設定が、最良の性能を示す野生バイナリセグメンテーションの設定とほぼ同等の推定性能を達成し、パラメータの選択に対しては著しく高いロバスト性を示した。
• 高次元ガウスグラフィカルモデルにおいて、野生バイナリセグメンテーションの O(TM p³) の計算コストが、シーデッドバイナリセグメンテーションでは O(T log T p³) に削減され、最悪ケースでは M が O(T²) 必要となることが示された。
• この手法は、区間構築における減衰パラメータ a に対して強いロバスト性を示すが、野生バイナリセグメンテーションはランダム区間数 M に極めて敏感であるのと対照的である。
• グラフィカルラッソのような高コストな推定器を伴う高次元設定では、シーデッド区間により、従来のランダム区間手法が計算負荷が大きすぎて非現実的となる状況でも、実行可能な計算が可能になる。