[论文解读] Sharp recovery bounds for convex demixing, with applications

Michael B. McCoy, Joel A. Tropp|arXiv (Cornell University)|May 8, 2012

Sparse and Compressive Sensing Techniques参考文献 73被引用 9

一句话总结

本文提出了一种凸优化框架，用于通过利用其非相干性，从其和中分离出两种结构化信号（如稀疏与低秩分量）。该框架建立了仅依赖于两种信号总复杂度的尖锐、信息论最优的恢复边界，并在稀疏-稀疏分解和鲁棒矩阵恢复等应用中得到验证。

ABSTRACT

Demixing refers to the challenge of identifying two structured signals given only the sum of the two signals and prior information about their structures. Examples include the problem of separating a signal that is sparse with respect to one basis from a signal that is sparse with respect to a second basis, and the problem of decomposing an observed matrix into a low-rank matrix plus a sparse matrix. This paper describes and analyzes a framework, based on convex optimization, for solving these demixing problems, and many others. This work introduces a randomized signal model which ensures that the two structures are incoherent, i.e., generically oriented. For an observation from this model, this approach identifies a summary statistic that reflects the complexity of a particular signal. The difficulty of separating two structured, incoherent signals depends only on the total complexity of the two structures. Some applications include (i) demixing two signals that are sparse in mutually incoherent bases; (ii) decoding spread-spectrum transmissions in the presence of impulsive errors; and (iii) removing sparse corruptions from a low-rank matrix. In each case, the theoretical analysis of the convex demixing method closely matches its empirical behavior.

研究动机与目标

• 开发一种通用的凸优化框架，用于在信号在不同基或结构中非相干且稀疏时，从其和中解混两种结构化信号。
• 建立凸解混方法成功所需的精确理论条件，基于两种信号的总复杂度。
• 分析在高维随机模型中，当信号结构通常非相干时的恢复性能。
• 在多种应用中（包括形态成分分析和鲁棒矩阵分解）对理论边界进行经验验证。
• 推导出与实际解混任务中经验行为一致的精确恢复阈值。

提出的方法

• 将解混问题表述为一个凸优化问题，通过最小化两个原子范数（例如 ℓ₁ 范数和核范数）的和，同时满足匹配观测信号的线性约束。
• 引入一种随机信号模型，其中两种信号结构是非相干的，通过均匀随机正交矩阵建模，以确保一般方向性。
• 使用积分几何和随机矩阵理论的工具，特别是球面内蕴体积，来表征随机子空间与可行锥非平凡相交的概率。
• 应用戈登的高斯过程不等式来界定线性逆问题的失败概率，将其与可行锥的宽度联系起来。
• 通过分析可行锥的球面内蕴体积的衰减，推导出尖锐的恢复阈值，表明当总信号复杂度低于临界阈值时，恢复成功。
• 证明在非相干条件下，恢复阈值仅取决于两种信号复杂度之和，而不依赖于其单独的结构。

实验结果

研究问题

• RQ1 在何种条件下，可通过凸优化成功分离出两种非相干结构信号（如稀疏与低秩）？
• RQ2 两种信号的总复杂度如何影响成功恢复所需的最小测量数？
• RQ3 能否推导出与形态成分分析等解混任务中经验性能匹配的尖锐理论恢复边界？
• RQ4 信号结构之间的非相干性在实现凸方法下的精确恢复中起到什么作用？
• RQ5 随机矩阵模型和几何概率工具（如球面内蕴体积）如何实现对解混可行性的精确分析？

主要发现

• 当总信号复杂度（以稀疏性和秩参数之和衡量）低于由环境维度决定的临界阈值时，凸解混方法以高概率成功。
• 当测量数满足 $ n o heta d $ 且 $ heta < heta_{ ext{crit}} $ 时，恢复可保证成功，其中 $ heta_{ ext{crit}} $ 取决于稀疏性和秩参数。
• 理论恢复阈值与在分离在两个非相干基中稀疏的信号以及恢复受稀疏误差污染的低秩矩阵等应用中的经验行为一致。
• 对于随机正交矩阵 $ m{Q} $，只要总复杂度低于阈值，解混失败的概率随维度 $ d $ 指数衰减。
• 该方法实现了信息论最优的恢复边界，意味着在相同非相干假设下，任何其他方法都无法用更少的测量成功。
• 分析表明，在非相干条件下，解混的难度仅取决于两种信号复杂度之和，而不依赖于其单独的结构。