[論文レビュー] Minimax rates in sparse, high-dimensional change point detection

Haoyang Liu, Chao Gao+1 more|arXiv (Cornell University)|Jul 23, 2019

Statistical Methods and Inference参考文献 41被引用数 9

ひとこと要約

この論文は、ガウスノイズ下での高次元平均ベクトルにおけるスパースな変化を検出するための正確なミニマックス検定レートを確立し、スパースネスレベル √(p log log(8n)) における複雑な段階転移と、特定のレジームにおけるサンプルサイズに関する三重対数的依存性を明らかにしている。主な貢献は、密度領域における正確な定数とスパース領域における √2 要因以内の境界の鋭い特徴付けであり、依存構造を持つデータへの拡張も含まれる。

ABSTRACT

We study the detection of a sparse change in a high-dimensional mean vector as a minimax testing problem. Our first main contribution is to derive the exact minimax testing rate across all parameter regimes for $n$ independent, $p$-variate Gaussian observations. This rate exhibits a phase transition when the sparsity level is of order $\sqrt{p \log \log (8n)}$ and has a very delicate dependence on the sample size: in a certain sparsity regime it involves a triple iterated logarithmic factor in~$n$. Further, in a dense asymptotic regime, we identify the sharp leading constant, while in the corresponding sparse asymptotic regime, this constant is determined to within a factor of $\sqrt{2}$. Extensions that cover spatial and temporal dependence, primarily in the dense case, are also provided.

研究の動機と目的

• すべてのパrameterレジームにおいて、i.i.d. ガウスノイズ下での高次元平均ベクトルにおけるスパース変化を検出するための正確なミニマックス検定レートを特定すること。
• サンプルサイズ n、次元 p、スパースネス s に対する検出境界の鋭い依存関係を特徴付け、特に s ≍ √(p log log(8n)) における段階転移を同定すること。
• 密度漸近レジームにおける最小化定数を正確に特定し、スパースレジームにおいては √2 要因以内の近似を得ること。
• 誤差構造に空間的（クロスセクショナル）および時間的（シリアル）依存性が存在する状況へのミニマックス解析の拡張。
• スパースネス s の事前知識を必要とせず、最適レートを達成する適応的検定手順の開発。

提案手法

• 帰無仮説と対立仮説間の全変動距離の非漸近的解析を通じて、ミニマックス検定レートを導出する。
• 切り捨てられた2次モーメント法とカイ二乗発散を用いて、検定誤り確率の上限を求める。
• ガウス位置混合にインシュターラ・シュスリナ法を適用し、高次元設定におけるカイ二乗発散を計算する。
• チェンジポイントの不確実性に対処するため、共分散行列関数形（トレース、フロベニウスノルム、作用素ノルム）のロバスト推定器を構築する。
• スパースネスに適応するためのしきい値処理を施した切り捨てられたCUSUM型統計量に基づくミニマックス最適検定を提案する。
• 異なるスパースネスレベルにおける複数の検定統計量を組み合わせることで、オракル版と同等のレートを達成する適応的検定手順を確立する。

実験結果

リサーチクエスチョン

• RQ1 i.i.d. ガウスノイズ下で、高次元平均ベクトルにおけるスパース変化を検出するための正確なミニマックス検定レートは何か？
• RQ2 スパースネスレベル s が閾値 √(p log log(8n)) 未満または超過する場合、ミニマックスレートはどのように振る舞うか？
• RQ3 密度レジーム（s = p）におけるミニマックスレートの鋭い定数は何か？ また、スパースレジームではそれらにどの程度近づけるか？
• RQ4 空間的依存性（i.i.d. でない共分散構造）はミニマックス検定レートにどのように影響し、どのような推定器がこれに対してロバストか？
• RQ5 時間的依存性（誤差過程の自己相関）は検出境界をどのように変化させ、非対角ブロックの作用素ノルムの和の上限 B、p、n の相対的大きさが果たす役割は何か？

主な発見

• ミニマックス検定レートは、スパースネスレベル s ≍ √(p log log(8n)) において段階転移を示し、密度領域とスパース領域で異なる挙動を示す。
• 密度領域（s = p）では、ミニマックスレートにおける鋭い先頭定数が正確に同定された。
• スパース領域（s < √(p log log(8n))）では、先頭定数が √2 要因以内に特定された。
• 空間的依存性の下では、ミニマックスレートは共分散行列の3つの関数形（トレース、フロベニウスノルム、作用素ノルム）に依存し、ロバスト推定法が提案された。
• 時間的依存性の下では、非対角ブロックの作用素ノルムの和の上限 B、p、n の相対的大きさに基づく段階転移が発生する。
• スパースネスレベル s の知識を必要とせず、オラクル検定と同等のミニマックスレートを達成する適応的検定が構築された。