[论文解读] Rank Awareness in Joint Sparse Recovery

Mike E. Davies, Yonina C. Eldar|arXiv (Cornell University)|Apr 26, 2010

Sparse and Compressive Sensing Techniques参考文献 39被引用 12

一句话总结

本文提出了一种用于多测量向量（MMV）问题中联合稀疏恢复的秩感知算法，利用信号矩阵的秩来提升恢复性能。所提出的贪婪算法（如 RA-ORMP）和秩感知阈值化方法在高秩设置下显著优于传统秩盲算法（如 SOMP 和混合范数最小化），在数据矩阵达到最大秩时可实现近乎完美的恢复（例如，当 k=16 时，l=16 时恢复率为 100%）。

ABSTRACT

In this paper we revisit the sparse multiple measurement vector (MMV) problem where the aim is to recover a set of jointly sparse multichannel vectors from incomplete measurements. This problem has received increasing interest as an extension of the single channel sparse recovery problem which lies at the heart of the emerging field of compressed sensing. However the sparse approximation problem has origins which include links to the field of array signal processing where we find the inspiration for a new family of MMV algorithms based on the MUSIC algorithm. We highlight the role of the rank of the coefficient matrix X in determining the difficulty of the recovery problem. We derive the necessary and sufficient conditions for the uniqueness of the sparse MMV solution, which indicates that the larger the rank of X the less sparse X needs to be to ensure uniqueness. We also show that the larger the rank of X the less the computational effort required to solve the MMV problem through a combinatorial search. In the second part of the paper we consider practical suboptimal algorithms for solving the sparse MMV problem. We examine the rank awareness of popular algorithms such as SOMP and mixed norm minimization techniques and show them to be rank blind in terms of worst case analysis. We then consider a family of greedy algorithms that are rank aware. The simplest such algorithm is a discrete version of MUSIC and is guaranteed to recover the sparse vectors in the full rank MMV case under mild conditions. We extend this idea to develop a rank aware pursuit algorithm that naturally reduces to Order Recursive Matching Pursuit (ORMP) in the single measurement case and also provides guaranteed recovery in the full rank multi-measurement case. Numerical simulations demonstrate that the rank aware algorithms are significantly better than existing algorithms in dealing with multiple measurements.

研究动机与目标

• 研究信号矩阵秩在决定多测量向量（MMV）问题中联合稀疏恢复的难度与唯一性方面的作用。
• 识别现有流行算法（如 SOMP 和混合范数最小化）的局限性，这些算法在最坏情况分析中被证明是秩盲的。
• 开发新的贪婪算法，显式利用秩信息以提升恢复性能。
• 在全秩 MMV 设置下，建立秩感知算法保证精确恢复的理论条件。
• 通过数值模拟比较秩感知与秩盲方法的性能，展示恢复率的显著提升。

提出的方法

• 提出一种离散版本的 MUSIC 算法作为秩感知贪婪方法，利用信号子空间结构来识别稀疏向量的支撑集。
• 提出 RA-ORMP（秩感知顺序递归匹配追踪），一种推广至 MMV 情况的贪婪追踪算法，其在单测量情况下退化为 OMP。
• 推导稀疏 MMV 解唯一性的必要与充分条件，表明信号矩阵 X 的秩越高，唯一性所需的稀疏度越低。
• 分析 MMV 中组合搜索的计算复杂度，表明更高的秩可减少搜索空间。
• 采用基于信号子空间对齐的秩感知阈值化方法，通过选择原子来提升对噪声和秩退化的鲁棒性。
• 通过数值模拟比较不同算法在测量向量数（l）、稀疏度水平（k）和信号矩阵秩变化下的恢复性能。

实验结果

研究问题

• RQ1 未知信号矩阵 X 的秩如何影响 MMV 问题中稀疏解的唯一性与可恢复性？
• RQ2 为何广泛使用的 MMV 算法（如 SOMP 和混合范数最小化）无法利用秩信息，这种秩盲性在理论上的后果是什么？
• RQ3 在 MMV 设置下，秩感知贪婪算法能否在最坏情况下提供优于现有秩盲方法的恢复保证？
• RQ4 信号矩阵秩对联合稀疏恢复中组合搜索的计算复杂度有何影响？
• RQ5 当数据矩阵的秩低于最大值时，秩感知算法是否仍能保持高恢复性能？性能随秩的增加如何变化？

主要发现

• 当数据矩阵 Y 达到最大秩时（例如，k=16 时 l=16），RA-ORMP 实现了 100% 的恢复概率，显著优于 SOMP 和 RA-OMP。
• 在固定稀疏度 k=16 的情况下，RA-ORMP 等秩感知算法的恢复率随测量向量数 l 增加而提升，并在 rank(Y) 达到 k=16 时趋于 100%。
• 当 l>16 且 rank(Y) 固定为 16 时，SOMP 和 RA-OMP 的性能在约 80% 处趋于平稳，表明存在由秩退化引起的瓶颈。
• RA-ORMP 在单测量情况下保持 OMP 级别的性能，并将其扩展至更高稀疏度水平，在 l=16 时可正确恢复至 k=23。
• 秩感知阈值化方法在低秩区域相比标准阈值化方法表现出更优的恢复性能，且对秩退化具有鲁棒性。
• 数值结果证实，秩感知算法在高秩设置下比秩盲方法更有效地利用信号子空间结构。