[论文解读] Adapting to unknown noise level in sparse deconvolution

Claire Boyer, Yohann de Castro+1 more|arXiv (Cornell University)|Jun 15, 2016

Sparse and Compressive Sensing Techniques参考文献 23被引用 3

一句话总结

本文提出了一种新型凸优化方法——共轭贝鲁林lasso（CBLasso），用于稀疏反卷积问题，在超分辨率场景中联合估计目标Radon测度与未知噪声水平。通过采用类似平方根lasso的共轭估计框架，CBLasso在无需事先知晓噪声方差的情况下，仅使用样本大小来调节正则化参数，即可实现理论保证，包括一致的噪声水平估计和极小极大最优预测/定位误差。

ABSTRACT

In this paper, we study sparse spike deconvolution over the space of complex-valued measures when the input measure is a finite sum of Dirac masses. We introduce a modified version of the Beurling Lasso (BLasso), a semi-definite program that we refer to as the Concomitant Beurling Lasso (CBLasso). This new procedure estimates the target measure and the unknown noise level simultaneously. Contrary to previous estimators in the literature, theory holds for a tuning parameter that depends only on the sample size, so that it can be used for unknown noise level problems. Consistent noise level estimation is standardly proved. As for Radon measure estimation, theoretical guarantees match the previous state-of-the-art results in Super-Resolution regarding minimax prediction and localization. The proofs are based on a bound on the noise level given by a new tail estimate of the supremum of a stationary non-Gaussian process through the Rice method.

研究动机与目标

• 解决在噪声水平未知时的超分辨率稀疏反卷积问题，这是成像与信号处理中的常见挑战。
• 开发一种凸优化框架，同时估计稀疏信号（Radon测度）与未知噪声方差。
• 在不依赖噪声水平先验知识的前提下，提供理论保证，如一致的噪声水平估计与极小极大最优恢复性能。
• 将贝鲁林lasso（BLasso）扩展为共轭形式，使其对未知噪声具有更强的鲁棒性与自适应性，优于现有方法。

提出的方法

• 提出共轭贝鲁林lasso（CBLasso）作为联合凸优化问题，其目标函数最小化一个由噪声估计σ缩放的数据拟合项、测度总变差的惩罚项，以及噪声水平的正则化项。
• 通过将数据拟合项按噪声估计σ进行缩放，并添加σ/2的正则化项，以避免退化解并确保齐次性。
• 基于拉格朗日函数与视角函数构建对偶形式，推导出对偶问题，从而通过对偶性与鞍点条件实现理论分析。
• 应用Rice方法推导出平稳非高斯过程上确界的新尾部估计，这对高维设定下噪声水平的界具有关键作用。
• 建立强对偶性，并证明对偶问题可简化为在约束集Dn上最大化⟨y, λc⟩，从而实现恢复保证。
• 证明在特定调参条件下，CBLasso设置下的对偶多项式不可能具有恒定模，这是实现精确恢复的关键。

实验结果

研究问题

• RQ1 是否存在一种凸优化方法，能够联合估计超分辨率反卷积中的稀疏信号与未知噪声水平？
• RQ2 所提出的CBLasso估计器是否能在不事先知晓其值的情况下，实现对噪声水平的一致估计？
• RQ3 在噪声未知的情况下，CBLasso能否建立理论保证，如极小极大最优预测与定位误差？
• RQ4 共轭形式在提升稀疏反卷积中鲁棒性与自适应性方面发挥何种作用？

主要发现

• CBLasso估计器实现了对未知噪声水平σ₀的一致估计，其理论保证在噪声水平上均匀成立。
• 理论分析表明，即使在噪声水平未知的情况下，CBLasso的预测误差与定位误差仍可达到超分辨率领域的最先进极小极大率。
• 调参λ仅依赖于样本大小n，因此可在无需σ₀知识的前提下实现实际应用。
• 通过Rice方法推导出平稳非高斯过程上确界的新尾部估计，该估计在界定噪声水平与证明一致性方面起关键作用。
• 在λ ∈ [λmin(y), λmax(y)]的条件下，CBLasso中的对偶多项式不可能具有恒定模，从而防止过拟合并支持精确恢复。
• CBLasso解满足ˆσ = ∥y − Fn(ˆµ)∥₂ / √n，确保估计的噪声水平与残差范数一致，这是共轭估计的关键特性。