[论文解读] Exploiting Correlation in Sparse Signal Recovery Problems: Multiple Measurement Vectors, Block Sparsity, and Time-Varying Sparsity

Zhilin Zhang, Bhaskar D. Rao|arXiv (Cornell University)|May 4, 2011

Sparse and Compressive Sensing Techniques参考文献 16被引用 17

一句话总结

该论文提出T-SBL，一种稀疏贝叶斯学习算法，可自适应地学习并利用多测量向量（MMV）中的相关性结构、块稀疏性以及时变稀疏性模型。通过使用共享协方差矩阵对解矩阵的行间相关性进行建模，并采用迭代重加权框架，T-SBL在高相关性条件下显著提升了重建精度，仿真结果验证了其在相关MMV设置下失败率降低高达90%。

ABSTRACT

A trend in compressed sensing (CS) is to exploit structure for improved reconstruction performance. In the basic CS model, exploiting the clustering structure among nonzero elements in the solution vector has drawn much attention, and many algorithms have been proposed. However, few algorithms explicitly consider correlation within a cluster. Meanwhile, in the multiple measurement vector (MMV) model correlation among multiple solution vectors is largely ignored. Although several recently developed algorithms consider the exploitation of the correlation, these algorithms need to know a priori the correlation structure, thus limiting their effectiveness in practical problems. Recently, we developed a sparse Bayesian learning (SBL) algorithm, namely T-SBL, and its variants, which adaptively learn the correlation structure and exploit such correlation information to significantly improve reconstruction performance. Here we establish their connections to other popular algorithms, such as the group Lasso, iterative reweighted $\ell_1$ and $\ell_2$ algorithms, and algorithms for time-varying sparsity. We also provide strategies to improve these existing algorithms.

研究动机与目标

• 为解决现有压缩感知算法在利用多测量向量（MMV）之间相关性以及稀疏信号块内相关性方面的局限性。
• 开发一种无需预先知晓相关性结构即可自适应学习相关性结构的方法，与卡尔曼滤波或固定结构方法不同。
• 通过使用学习得到的协方差矩阵替代ℓq范数，统一并改进现有的用于MMV和块稀疏性模型的迭代重加权ℓ₁与ℓ₂算法。
• 通过将时变稀疏性模型建模为连接的MMV问题，扩展稀疏贝叶斯学习在时变稀疏性模型中的适用性。

提出的方法

• T-SBL将解矩阵X每行的联合分布建模为均值为零的多元正态分布，协方差为γiB，其中B为跨行学习的共享数据自适应协方差矩阵。
• 该算法采用稀疏贝叶斯学习框架，通过基于边际似然最大化的闭式更新，迭代更新解向量x、超参数γi（表示行稀疏性）以及共享协方差矩阵B。
• 该方法通过Kronecker积与向量化将MMV模型转换为块稀疏形式，从而可将标准SBL技术应用于块结构问题。
• T-SBL被证明等价于一种迭代重加权ℓ₂与ℓ₁算法，其中权重基于使用学习得到的协方差B计算的马氏距离进行更新，优于标准重加权方案。
• 对于时变稀疏性，T-SBL通过将信号分割为多个MMV块来应用，每个块独立处理，每块单独估计B以捕捉时间相关性。
• 通过仿真验证了T-SBL及其简化变体T-MSBL与现有最先进方法在MMV和时变稀疏性设置下的性能对比。

实验结果

研究问题

• RQ1 稀疏贝叶斯学习框架能否在未知相关性结构下，无需预先知道相关性，有效学习并利用多测量向量中的相关性？
• RQ2 在迭代重加权ℓ₁与ℓ₂算法中，用马氏距离替代ℓq范数，如何提升块稀疏与MMV恢复的性能？
• RQ3 与现有卡尔曼滤波压缩感知和最小二乘压缩感知方法相比，T-SBL在时变稀疏性模型中的重建性能可提升多少？
• RQ4 自适应协方差估计对相关MMV设置下失败率的影响如何？

主要发现

• 在高相关性MMV模型中（ρ=0.9），T-SBL与T-MSBL将失败率降低至接近零，而其他算法在超过90%的试验中失败。
• 当相关性不存在时（ρ=0），T-SBL与T-MSBL仍保持高性能，表明其在不同相关性水平下均具鲁棒性。
• 在迭代重加权ℓ₁算法中，用马氏距离替代ℓ₂范数带来了显著性能提升，尤其在真实相关性结构已知或可估计时。
• 在时变稀疏性实验中，T-SBL优于KF-CS与LS-CS，也优于M-SBL，尤其在高时间相关性（ρ=0.99）场景下表现更优。
• T-SBL在行间使用共享协方差矩阵B，有效防止了过拟合，并实现了对相关性的有效学习，即使在噪声或低信噪比条件下亦成立。
• T-SBL对噪声具有鲁棒性，因其联合估计了噪声方差与相关性结构，优于需要已知噪声参数的方法。