[論文レビュー] Robust Model Order Selection in Large Dimensional Elliptically Symmetric Noise

Eugénie Terreaux, Jean‐Philippe Ovarlez+1 more|arXiv (Cornell University)|Oct 18, 2017

Advanced Statistical Methods and Models参考文献 35被引用数 10

ひとこと要約

本稿では、相関的で非ガウス型の複素楕円対称（CES）ノイズで汚される大規模次元信号に対する、ロバストなモデル次数選択手法を提案する。ノイズのホワイトニングにトーペリッツ構造をもつ分散共分散行列推定を組み合わせ、ホワイトニングされたデータに対してマロナのM推定量を適用することで、大規模ランダム行列理論を用いて一貫性のある共分散推定と正確な信号部分空間次数検出を達成し、シミュレートデータおよび実際のハイパースペクトルデータにおいて、最先端の手法を著しく上回る性能を発揮する。

ABSTRACT

This paper deals with model order selection in context of correlated noise. More precisely, one considers sources embedded in an additive Complex Elliptically Symmetric (CES) noise, with unknown parameters. The main difficultly for estimating the model order lies into the noise correlation, namely the scatter matrix of the corresponding CES distribution. In this work, to tackle that problem, one adopts a two-step approach: first, we develop two different methods based on a Toeplitz-structured model for estimating this unknown scatter matrix and for whitening the correlated noise. Then, we apply Maronna's $M$-estimators on the whitened signal to estimate the covariance matrix of the "decorrelated" signal in order to estimate the model order. The proposed methodology is based both on robust estimation theory as well as large Random Matrix Theory, and original results are derived, proving the efficiency of this methodology. Indeed, the main theoretical contribution is to derive consistent robust estimators for the covariance matrix of the signal-plus-correlated noise in a large dimensional regime and to propose efficient methodology to estimate the rank of signal subspace. Finally, as shown in the analysis, these results show a great improvement compared to the state-of-the-art, on both simulated and real hyperspectral images.

研究の動機と目的

• 相関的で非ガウス型のノイズ、特に複素楕円対称（CES）分布に従う状況下で、大規模次元信号処理におけるモデル次数選択の課題に取り組むこと。
• 古典的情報量基準（例：AIC、MDL）および標準的共分散推定が、高次元的で相関的かつ非ガウス型の状況下で失敗することを克服すること。
• トーペリッツ構造をもつ分散共分散行列推定によるホワイトニングと、マロナのM推定量を用いたロバスト共分散推定を組み合わせることで、信号部分空間次数の一貫性がありロバストな推定量を構築すること。
• 大規模次元における漸近的状況下で、ランダム行列理論（RMT）を用いて提案手法の理論的一貫性を確立すること。
• 相関的CESノイズを伴う、シミュレートデータおよび実際のハイパースペクトル画像において、既存手法を上回る性能を示すこと。

提案手法

• 高次元における安定性と一貫性を向上させるために、トーペリッツ構造を強制するトーペリッツ構造付き標本共分散行列（SCM）を用いて、CESノイズの未知の分散共分散行列を推定する。
• 非ガウス性下でのロバスト性と収束性を高めるために、反復的精錬を活用する固定点（FP）推定量をSCMの代替として適用する。
• 推定されたトーペリッツ分散共分散行列を用いて観測信号をホワイトニングし、ノイズの相関を除去することで、その後のロバスト共分散推定を可能にする。
• ホワイトニングされたデータに対してマロナのM推定量を適用し、マハラノビス距離に基づく重み付けにより外れ値を低減することで、信号＋ノイズの共分散行列をロバストに推定する。
• ロバストに推定された共分散行列の固有値分布を用い、大規模ランダム行列理論から導出されたしきい値ルールにより、信号部分空間次数を特定する。
• 理論的分析と漸近的一致性の証明（ほとんど確実収束）を用いて、大規模次元的状況（N, m → ∞ かつ m/N → c > 0）下での推定量のロバスト性と正確性を検証する。

実験結果

リサーチクエスチョン

• RQ1 相関的で非ガウス型のCESノイズ下で、大規模次元的状況において、トーペリッツ構造付き分散共分散行列推定とロバストM推定量を組み合わせた二段階的手法が、一貫性のあるモデル次数選択を達成できるか。
• RQ2 ノイズが相関的で非ガウス型である状況下で、本手法は古典的情報量基準（例：AIC、MDL）および標準的共分散推定量と比較して、正確性とロバスト性において優れているか。
• RQ3 大規模ランダム行列漸近的状況下で、本手法のロバスト共分散推定量の理論的一致性は何か。また、真の信号共分散構造に対してほとんど確実に収束するか。
• RQ4 真の分散共分散行列がトーペリッツ構造をもつ場合、トーペリッツ構造付きホワイトニングを用いることで、標準的ホワイトニングと比較して性能がどの程度向上するか。
• RQ5 ハイパースペクトル画像のような現実世界の状況において、複雑で相関的なノイズ下でも、本手法は高い正確性を維持できるか。

主な発見

• 定理1および定理2で示されたように、大規模次元的漸近的状況下で、推定された分散共分散行列が真の値にほとんど確実に収束することが保証されている。
• ホワイトニングされたデータに適用されたロバストなマロナのM推定量は、信号共分散行列の一貫性のある推定量を提供し、推定値と真の共分散行列との差がほとんど確実にゼロに収束する。
• SCMおよびFPを用いたトーペリッツ構造付き推定量は、相関的ノイズ環境下で、制約なし推定量と比較して、推定の正確性と安定性を著しく向上させる。
• 本手法は、シミュレートデータおよび実際のハイパースペクトル画像において、モデル次数選択において優れた性能を示し、正確性とロバスト性の面で最先端の手法を上回っている。
• 理論的分析により、ロバストに推定された共分散行列の固有値しきい値ルールが、大規模次元的状況下で、高い確率で信号部分空間次数を正しく同定できることを確認した。
• 付録に記載された証明を通じて、分散共分散行列推定からモデル次数検出までのパイプライン全体の一貫性が厳密に確立されており、トーペリッツ化推定量および最終的なロバスト共分散推定量の収束性が示されている。