[论文解读] Sensing Matrix Optimization for Block-Sparse Decoding

Kevin Rosenblum, Lihi Zelnik‐Manor+1 more|arXiv (Cornell University)|Sep 8, 2010

Sparse and Compressive Sensing Techniques参考文献 16被引用 10

一句话总结

本文提出了一种用于块稀疏压缩感知的新型感知矩阵优化框架，通过最小化等价字典中块间与子块相干性的加权和，以提升信号恢复与分类性能。加权相干性最小化（WCM）算法采用代理函数与闭式更新，迭代收敛至局部最优解，显著优于随机或非块结构感知矩阵的块OMP性能。

ABSTRACT

Recent work has demonstrated that using a carefully designed sensing matrix rather than a random one, can improve the performance of compressed sensing. In particular, a well-designed sensing matrix can reduce the coherence between the atoms of the equivalent dictionary, and as a consequence, reduce the reconstruction error. In some applications, the signals of interest can be well approximated by a union of a small number of subspaces (e.g., face recognition and motion segmentation). This implies the existence of a dictionary which leads to block-sparse representations. In this work, we propose a framework for sensing matrix design that improves the ability of block-sparse approximation techniques to reconstruct and classify signals. This method is based on minimizing a weighted sum of the inter-block coherence and the sub-block coherence of the equivalent dictionary. Our experiments show that the proposed algorithm significantly improves signal recovery and classification ability of the Block-OMP algorithm compared to sensing matrix optimization methods that do not employ block structure.

研究动机与目标

• 通过利用信号中的块稀疏结构，提升压缩感知中的信号重构与分类性能。
• 设计一种感知矩阵，以最小化等价字典中的块间与子块相干性，从而利用块结构优势。
• 开发一种高效优化算法，收敛至非凸相干性最小化问题的局部解。
• 证明最小化子块相干性相较于块间相干性对性能提升更具关键作用。
• 提供一种框架，其性能优于未考虑块结构的现有感知矩阵设计。

提出的方法

• 将块间与子块相干性的加权和作为感知矩阵设计的目标函数。
• 采用逼近优化方法，用更易最小化的代理函数替代非凸目标函数。
• 通过特征值分解，推导出每轮迭代中最小化代理函数的闭式解。
• 通过当前迭代所导出的变换矩阵的前M个最大特征向量更新感知矩阵。
• 通过保持当前迭代点处梯度相等并保证下降性，确保收敛性。
• 采用酉不变形式，确保无论感知矩阵的具体表示如何，其格拉姆矩阵保持不变。

实验结果

研究问题

• RQ1 通过优化感知矩阵以降低块间与子块相干性，能否提升块稀疏信号的恢复性能？
• RQ2 在块OMP性能方面，最小化子块相干性是否比最小化块间相干性更具影响力？
• RQ3 基于代理函数的优化方法能否高效求解非凸感知矩阵设计问题并保证收敛？
• RQ4 与随机或非块结构感知矩阵设计相比，所提出的WCM方法在重构与分类准确率方面表现如何？
• RQ5 所提出的框架是否能推广至现实世界中具有块稀疏特性的应用，如人脸识别或运动分割？

主要发现

• 所提出的WCM算法显著提升了块OMP在信号重构与分类性能方面，相较于忽略块结构的感知矩阵设计。
• 最小化子块相干性带来的性能增益大于最小化块间相干性，因此在目标函数中对子块项赋予更高权重具有合理性。
• 迭代式WCM算法收敛至原始非凸问题的局部最小值，其证明基于每一步中梯度相等与代理函数主导性。
• 闭式更新步骤通过依赖变换矩阵的特征值分解，确保了计算效率。
• 所得感知矩阵生成的等价字典具有近乎正交的块结构，从而提升了块稀疏逼近的准确性。
• 仿真结果证实，WCM优化的感知矩阵在重构误差与分类任务中均优于标准随机矩阵或相干性最小化矩阵。