[论文解读] Robust Model Order Selection in Large Dimensional Elliptically Symmetric Noise

Eugénie Terreaux, Jean‐Philippe Ovarlez+1 more|arXiv (Cornell University)|Oct 18, 2017

Advanced Statistical Methods and Models参考文献 35被引用 10

一句话总结

本论文提出了一种针对受相关非高斯复椭球对称（CES）噪声污染的大维信号的鲁棒模型阶数选择方法。该方法结合了基于托普利茨结构散射矩阵估计的噪声白化处理与白化后数据的马龙纳M-估计器，利用大随机矩阵理论实现了协方差估计的一致性与信号子空间阶数检测的准确性，显著优于现有最先进方法在模拟数据和真实高光谱数据上的表现。

ABSTRACT

This paper deals with model order selection in context of correlated noise. More precisely, one considers sources embedded in an additive Complex Elliptically Symmetric (CES) noise, with unknown parameters. The main difficultly for estimating the model order lies into the noise correlation, namely the scatter matrix of the corresponding CES distribution. In this work, to tackle that problem, one adopts a two-step approach: first, we develop two different methods based on a Toeplitz-structured model for estimating this unknown scatter matrix and for whitening the correlated noise. Then, we apply Maronna's $M$-estimators on the whitened signal to estimate the covariance matrix of the "decorrelated" signal in order to estimate the model order. The proposed methodology is based both on robust estimation theory as well as large Random Matrix Theory, and original results are derived, proving the efficiency of this methodology. Indeed, the main theoretical contribution is to derive consistent robust estimators for the covariance matrix of the signal-plus-correlated noise in a large dimensional regime and to propose efficient methodology to estimate the rank of signal subspace. Finally, as shown in the analysis, these results show a great improvement compared to the state-of-the-art, on both simulated and real hyperspectral images.

研究动机与目标

• 解决在噪声为相关且非高斯分布，特别是复椭球对称（CES）分布时，大维信号处理中的模型阶数选择挑战。
• 克服经典信息准则（如AIC、MDL）和标准协方差估计在高维、相关、非高斯设定下的失效问题。
• 通过结合托普利茨结构散射矩阵估计的白化处理与马龙纳M-估计器的鲁棒协方差估计，开发一种对信号子空间阶数的一致且鲁棒的估计器。
• 利用随机矩阵理论（RMT）在大维渐近框架下建立所提方法的理论一致性。
• 在具有相关CES噪声的模拟数据与真实高光谱图像上，展示所提方法相较于现有方法的性能提升。

提出的方法

• 通过施加托普利茨结构，利用托普利茨结构样本协方差矩阵（SCM）估计CES噪声的未知散射矩阵，以在高维下提升稳定性和一致性。
• 作为SCM的替代方案，采用定点（FP）估计器来估计散射矩阵，利用迭代优化提升在非高斯分布下的鲁棒性与收敛性。
• 利用估计的托普利茨散射矩阵对观测信号进行白化处理，以消除噪声相关性，从而为后续鲁棒协方差估计创造条件。
• 对白化后的数据应用马龙纳M-估计器，以鲁棒方式估计信号加噪声的协方差矩阵，根据马氏距离分配权重，降低异常值影响。
• 基于大随机矩阵理论推导的阈值规则，利用鲁棒估计协方差矩阵的特征值分布来确定信号子空间阶数。
• 通过理论分析与渐近一致性证明（几乎必然收敛），验证所提估计器在大维渐近框架下（N, m → ∞ 且 m/N → c > 0）的鲁棒性与准确性。

实验结果

研究问题

• RQ1 在相关且非高斯的CES噪声环境下，结合托普利茨结构散射矩阵估计与鲁棒M-估计的两步法是否能在大维设置下实现一致的模型阶数选择？
• RQ2 当噪声为相关且非高斯时，所提方法在准确性和鲁棒性方面相较于经典信息准则（如AIC、MDL）和标准协方差估计器表现如何？
• RQ3 所提鲁棒协方差估计器在大随机矩阵渐近框架下的理论一致性如何？其是否几乎必然收敛至真实信号协方差结构？
• RQ4 当真实散射矩阵具有托普利茨结构时，使用托普利茨结构白化相较于标准白化能多大程度提升性能？
• RQ5 在高光谱成像等真实场景中，所提方法是否能在复杂且相关的噪声下保持高精度？

主要发现

• 如定理1与定理2所示，在大维渐近框架下，所估计的散射矩阵几乎必然收敛至真实值。
• 对白化后数据应用鲁棒马龙纳M-估计器，可得到信号协方差矩阵的一致估计器，其估计值与真实值之间的差异几乎必然收敛至零。
• 在相关噪声环境中，相较于无约束估计器，使用托普利茨结构估计器（SCM与FP）显著提升了估计的准确性和稳定性。
• 该方法在模拟数据与真实高光谱图像上的模型阶数选择中表现出卓越性能，优于现有最先进方法的准确性和鲁棒性。
• 理论分析表明，在大维渐近框架下，应用于鲁棒估计协方差矩阵的特征值阈值规则能以高概率正确识别信号子空间阶数。
• 整个流程——从散射矩阵估计到模型阶数检测——的一致性通过附录中的证明得到严格确立，包括托普利茨化估计器与最终鲁棒协方差估计器的收敛性。