[論文レビュー] M -statistic for kernel change-point detection

Shuang Li, Yao Xie+2 more|arXiv (Cornell University)|Jul 5, 2015

Statistical Methods and Inference参考文献 42被引用数 55

ひとこと要約

本稿では、大規模データセットにおける急激な変化点を検出するための計算的に効率的なカーネルベースの手法、M統計量を提案する。新たな測度変換技術を活用することで、ブートストラップを用いず、尾部確率を正確に特徴づけることが可能となり、最適な検出閾値を設定できる。これにより、特に高次元設定において、オフラインおよびオンラインの変化点検出が効果的に行える。

ABSTRACT

Detecting the emergence of an abrupt change-point is a classic problem in statistics and machine learning. Kernel-based nonparametric statistics have been proposed for this task which make fewer assumptions on the distributions than traditional parametric approach. However, none of the existing kernel statistics has provided a computationally efficient way to characterize the extremal behavior of the statistic. Such characterization is crucial for setting the detection threshold, to control the significance level in the offline case as well as the false alarm rate (captured by the average run length) in the online case. In this paper we focus on the scenario when the amount of background data is large, and propose two related computationally efficient kernel-based statistics for change-point detection, which we call $M$-statistics. A novel theoretical result of the paper is the characterization of the tail probability of these statistics using a new technique based on change-of-measure. Such characterization provides us accurate detection thresholds for both offline and online cases in computationally efficient manner, without the need to resort to the more expensive simulations such as bootstrapping. Moreover, our $M$-statistic can be applied to high-dimensional data by choosing a proper kernel. We show that our methods perform well in both synthetic and real world data.

研究の動機と目的

• 変化点検出におけるカーネル統計量の極値行動を特徴づける計算的に効率的な手法の不足に対処すること。
• ブートストラップのような高コストなシミュレーションに依存せずに、オフラインおよびオンラインの両方の変化点検出に対して正確な検出閾値を提供すること。
• カーネル選択とスケーラブルな計算を活用して、高次元データにおける効果的な変化点検出を可能にすること。
• 有意水準と平均運転長の制御を保証する理論的根拠に基づいたアプローチを構築すること。

提案手法

• 大標本設定における計算効率を考慮して設計された、2つの関連するカーネルベースの統計量（M統計量）を提案する。
• M統計量の尾部確率分布を解析的に特徴づけるために、新たな測度変換技術を採用する。
• 導出された尾部確率を用いて、有意水準（オフライン）および平均運転長（オンライン）を制御する検出閾値を設定する。
• 適切なカーネルの選択により、高次元データに適用し、統計的パワーと計算可能性を維持する。
• ブートストラップのような計算コストの高いリサンプリング手法を避けるために、解析的閾値境界を導出する。
• 誤差制御の理論的保証を伴う、オフラインおよびオンライン検出フレームワークへのM統計量の統合。

実験結果

リサーチクエスチョン

• RQ1 シミュレーションベースの手法に依存せずに、カーネルベースの統計量の極値行動を効率的に特徴づける方法は何か？
• RQ2 オフラインおよびオンラインの両方の変化点検出に対して、理論的根拠に基づき計算的に効率的な閾値設定手法を開発できるか？
• RQ3 M統計量は、既存のカーネルベースの手法と比較して、高次元データにおいてどのように性能を発揮するか？
• RQ4 カーネルの選択が、M統計量の検出パワーと計算効率に与える影響は何か？
• RQ5 測度変換技術は、経験的ブートストラップを上回る精度の高い尾部確率近似を提供できるか？

主な発見

• M統計量は、解析的尾部確率特徴づけにより正確な検出閾値を提供し、計算コストの高いブートストラップの必要性を排除する。
• 測度変換技術により、オフライン検出における有意水準とオンライン検出における平均運転長の精密な制御が可能になる。
• 合成データおよび実世界のデータセットにおいて強固な性能を示し、多様なデータ構造にわたる耐性を確認した。
• 適切なカーネル関数の活用により、検出精度を損なわずに高次元データへのスケーラビリティを実現する。
• 理論的分析により、与えられた仮定下でM統計量が最適な検出性能を達成し、誤差制御が保証されることを確認した。
• 実験的結果から、M統計量は検出速度および閾値の正確性の面で、既存のカーネルベースの手法を上回ることが示された。